Алгоритмы Instagram рекомендуют страницы, распространяющие контент с педофилией – The Wall Street Journal
Издание The Wall Street Journal в сотрудничестве с учеными Стэндфордского и Массачусетского университетов исследовало систему рекомендаций в Instagram, которая, как оказалось, продвигает контент с педофилией.
Учетные записи, которые обнаружили исследователи, рекламировали себя с помощью достаточно откровенных хештегов, таких, как #pedowhore, #preteensex и #pedobait, и предлагали поделиться контентом, включающим видео и изображения педофилии или зоофилии.
После просмотра этих страниц Instagram сразу рекомендовал тестовому аккаунту исследователей подписаться на несколько похожих учетных записей:
«Если следовать нескольким этим рекомендациям – тестовый аккаунт полностью заполняется контентом, который сексуализирует детей», – пишет WSJ.
Meta в ответ заявила, что создает внутреннюю оперативную группу по решению вопросов, затронутых в ходе расследования.
«Эксплуатация детей – это ужасное преступление. Мы постоянно исследуем способы активной защиты от такого поведения», – заявили в компании.
Согласно отчету Meta только в январе было удалено 490 000 учетных записей, которые нарушали ее политику по безопасности детей, а за последние два года изъято около 27 сетей аккаунтов, распространявших педофилию. Также заблокированы тысячи хештегов, связанных с сексуализацией детей, и ограничены такие запросы для использования в поиске.
Алекс Стамос – ныне глава Стэндфордской интернет-обсерватории, а в прошлом руководитель службы безопасности Meta – говорит, что компания должна усилить работу по устранению таких проблем:
«То, что команда из трех ученых с ограниченным доступом может найти такую огромную сеть, должно вызвать тревогу у Meta. Я надеюсь, что компания снова инвестирует в людей-модераторов».
В то же время, соцсеть часто игнорировала или отклоняла сообщения об обнаружении материалов с жестоким обращением с детьми. В одном из случаев жалобу отправили на аккаунт, рекламировавший публикацию с подписью «этот подросток ждет вас, извращенцы». В ответ Instagram отправил автоматическое сообщение:
«Из-за большого количества обращений наша команда не смогла просмотреть эту публикацию».
Исследование не обошло вниманием и другие соцсети, однако платформы Meta в этом случае продемонстрировали наибольшее количество нарушений. По данным WSJ, в Twitter было обнаружено 128 аккаунтов, которые продавали материалы о сексуальном насилии над детьми; в TikTok такой контент не распространялся, а Snapchat «не активно рекламировал такие сети» (поскольку он в основном используется для прямого обмена сообщениями).
Главный технолог Стэндфордской интернет-обсерватории Дэвид Тиль говорит, что Instagram просто «не находит правильного баланса между системами рекомендаций, разработанными для привлечения пользователей, и функциями безопасности, которые проверяют и удаляют опасный контент».
Twitter скрывает «чувствительный контент»: соцсеть автоматически помечает украинцев, часто пишущих о войне, и отправляет их в «теневой бан»
