Без Байдена и Трампа. Midjourney готовится к бану «политических изображений» на время выборов в США
Сервис для генерации изображений уже использовали для создания фейковых фото с арестом Дональда Трампа.
С помощью Midjourney, кажется, можно создать изображение чего угодно — включая фейкового Байдена, который, улыбаясь, стреляет из пулемета, или Трампа, встречающегося с Папой Франциском в Овальном кабинете. Однако на период сезона выборов в США эта возможность может исчезнуть, пишет Bloomberg.
Главный исполнительный директор Midjourney Дэвид Хольц говорит, что компания «близка к тому», чтобы забанить фото Байдена и Трампа на следующие 12 месяцев.
«Я знаю, что делать изображения с Трампом весело — я делаю изображения Трампа. Он действительно эстетически интересен. Однако лучше немного отступить на время этих выборов. Посмотрим».
Дипфейки с арестом Трампа, как и фото Папы Римского, одетого в пуховик Balenciaga, были созданы через бесплатные пробные версии Midjourney, так что впоследствии компания ограничила доступ к своему генератору изображений.
Сейчас в компании действуют правила, запрещающие создание «изображений публичных лиц, что вводят в заблуждение» и «изображений событий, которые потенциально могут ввести в заблуждение». Bloomberg все еще смог создать модифицированные изображения Трампа, покрытого спагетти, используя старую версию системы Midjourney, однако новая версия отказалась генерировать подобный контент.
Другие технологические компании также приняли меры, чтобы предотвратить политическую дезинформацию или по крайней мере облегчить ее идентификацию. ChatGPT скоро начнет добавлять водяные знаки к изображениям, созданным с помощью DALL-E 3, а Meta работает над технологией, которая сможет выявлять и указывать, было ли изображение, видео или аудиоклип сгенерировано с помощью ИИ.
В Facebook оставят дипфейк Джо Байдена, на котором он «касается» груди внучки
