Google Jigsaw разрабатывает бесплатный инструмент, который поможет небольшим веб-сайтам обнаруживать и удалять экстремистские материалы.

Помогаем

Проект, разработанный при поддержке организации Tech Against Terrorism, упрощает работу команд модераторов с потенциально незаконным содержимым. Эти усилия также осуществляются при поддержке Глобального интернет-форума по противодействию терроризму (основанному Google, Meta, Microsoft и Twitter), который также предлагает межсервисную базу данных о террористических объектах.

Два сайта, которые в сообщении не называют, начнут тестировать инструмент позже в 2023 году.

Инструмент Google в первую очередь предназначен для помощи сайтам, которые не могут позволить себе разработку алгоритмов обнаружения вредоносного контента с помощью ИИ или нанять большой штат модераторов. Технология может быть полезна и для соблюдения Закона ЕС о цифровых услугах и законопроекта о безопасности в Интернете, который сейчас рассматривают в Великобритании — оба будут требовать от операторов сайтов удалять экстремистский контент, иначе их ожидает наказание.

Курс

МЕНЕДЖЕР ПО РОБОТІ З КЛІЄНТАМИ

Ставайте затребуваним фахівцем та отримуйте свій офер мрії.

РЕЄСТРУЙТЕСЯ!

Интернет больше не будет прежним — с 1 ноября в ЕС вступают в силу новые правила регулирования для IT-гигантов

И Google и Tech Against Terrorism считают свой проект необходимым для устранения пробелов в противодействии террористической деятельности в Интернете. Экстремисты и дезинформаторы, созданные на основных платформах, часто переходят на меньшие ресурсы, у которых не всегда есть возможность полноценно следить за контентом. В идеале это уменьшит шансы террористов найти себе «убежище».

У нового инструмента есть ограничения: некоторые социальные платформы не желают модерировать содержимое (даже если операторы приложений утверждают, что оно подстрекает к насилию), поэтому для них технология Google не будет особенно полезна. Он также не помешает террористам делиться материалами через хорошо зашифрованные службы обмена сообщениями или Даркнет, где провайдеры не могут легко следить за трафиком данных.

Ранее Meta представила свою программу с открытым кодом Hasher-Matcher-Actioner (HMA), которая может обнаруживать террористический или другой вредоносный контент.

Можно ли считать рекомендации контента в интернете пособничеством терроризму? Верховный суд США готовится к рассмотрению исков к Google и Twitter

Источник: Engadget