С развитием искусственного интеллекта воспроизводить цифровые версии людей и симулировать их голоса стало гораздо легче. Технологии запросто могут «вложить» в уста знаменитостей или политиков фейковые заявления (как вот якобы «обращение Владимира Зеленского с сообщением о капитуляции»), или «заставить» их делать странные вещи (например, порноклипы, в которых добавляют изображения известных актеров без их согласия). А недавно от таких технологий пострадал стендап-комик и ведущий подкаста Джо Роган.

Видео, где фейковый Роган рассказывает о продукте-стимуляторе тестостерона под названием Alpha Grind, сейчас активно распространяется в TikTok. Комик якобы рассказывает, что препарат занимает высокие позиции в Amazon при введении запроса «усиление либидо для мужчин», а также фактически «увеличивает размеры, там внизу».

Deepfake scams are here, and we’re not ready. pic.twitter.com/NtPKWGCULi

— Coffeezilla (@coffeebreak_YT) February 12, 2023

Те, кто слышал ведущего раньше, могли заметить, что его голос на видео звучит несколько иначе, и есть части, где заметны проблемы с синхронизацией губ. Однако ролик все равно заставил многих пользователей поверить в его реальность.

Эндрю Д. Губерман, гость шоу Рогана, позже сообщил, что это подделка, а говорили они о совсем других вещах.

They created a false conversation. We never had. We were talking about something very different.

— Andrew D. Huberman, Ph.D. (@hubermanlab) February 12, 2023

Ранее интернет-тролли начали активно использовать ИИ-технологию имитации голоса, которую выложил в открытый доступ стартап ElevenLabs. В соцсетях распространились аудиозаписи, звучащие очень реалистичными голосами знаменитостей: актриса Эмма Уотсон там якобы цитирует «Мою борьбу» Адольфа Гитлера, а фейковый голос политического комментатора Бена Шарпио делает расистские замечания конгрессвумен Александрии Окасио-Корт.

Эмма Уотсон “цитирует” Гитлера, а Байден “объявляет” войну россии — бесплатный ИИ-синтезатор речи заставляет знаменитостей “говорить” обидные вещи

Источник: Techspot