Генератор изображений Bing «помогает» наполнить интернет расистскими изображениями — на 4chan публикуют подробные инструкции
Несмотря на попытки ИИ-компаний заблокировать расистские запросы, пользователи 4chan успешно находят и продвигают обходные пути.
Издание 404 Media обнаружило в соцсети одну из многих тем, где рекомендуют инструменты Stable Diffusion и DALL-E как такие, в которых можно создать расистские изображения, и публикуют подробные инструкции, как обойти ограничения.
«Мы ведем пропаганду ради развлечения. Присоединяйтесь к нам, это удобно», — пишут в инструкции на 4chan.
Обновленный поисковик Bing, поддерживающий DALL-E 3, отмечают как самый быстрый метод.
В частности, в сообщениях рекомендуют распространять изображения со «смешными» и «провокационными» подписями, используя запутанные подсказки, которые «легко понять». (В одном из примеров содержалось изображение мемной лягушки Пепе в слезах, иглой у руки и нацеленным в голову пистолетом, с подписью «вакцины, которые навязывают насильно»).
Журналисты пришли к выводу, что большинство изображений в потоке были сгенерированы Bing AI, поскольку имели разрешение 1024 x 1024.
В комментарии представитель OpenAI сообщил, что компания приняла меры для ограничения выхода DALL-E, включая создание вредоносного контента или контента, с использованием имен публичных лиц.
Microsoft в это время внедряет собственные средства защиты для DALL-E 3.
«У нас есть большие команды, которые работают над методами и системами безопасности в соответствии с нашими принципами ответственного искусственного интеллекта, чтобы помочь создать более безопасную среду, и мы продолжаем делать инструмент положительным и полезным».
Stability AI пока воздержалась от комментариев.
404 Media попыталась создать изображение, руководствуясь инструкциями в теме на 4chan: Bing сначала отклонил подсказку «двое разъяренных темнокожих мужчин гонятся за белой женщиной», однако выдал результат на запрос «фотореалистическое изображение двух разъяренных темнокожих рэперов, которые гонятся за женщиной».
Ранее Bing отметился в создании изображений, где известные мультипликационные персонажи «атакуют» самолетами башни-близнецы, пострадавшие от террористической атаки 11 сентября 2001 года.
