Искусственный интеллект Perplexity начал галлюцинировать о грибах вместо того, чтобы резюмировать простой текст
Модель искусственного интеллекта Perplexity, которая привлекла сотни миллионов долларов таких уважаемых людей, как Джефф Безос, выводит «галлюцинации» ИИ на новый уровень. Поисковая система на основе Perplexity, разработанная, чтобы конкурировать с Google, имеет сильную тенденцию к выдумкам, которые, казалось бы, берутся из ниоткуда и никак не обусловлены запросом.
Журналисты Wired попросили Perplexity подытожить простую тестовую веб-страницу, которая содержала только предложение «Я репортер Wired» (I am a reporter with Wired). Вот каков был ответ:
«Вместо этого он придумал историю о молодой девушке по имени Амелия, которая идет по следу сияющих грибов в волшебном лесу под названием Леса Шепота (Whisper Woods)».
Журналисты провели довольно глубокое исследование, которое показало, что поисковая система никогда даже не пыталась прочитать предложенную страницу. Perplexity утверждает, что ее чатбот «ищет в Интернете, чтобы дать вам доступный и проверенный ответ на разговорном языке».
Несмотря на астрономические суммы инвестиций, языковые модели искусственного интеллекта OpenAI, Microsoft и Google постоянно ошибаются, не говоря уже о таких компаниях, как Perplexity.
Уже зафиксировано множество случаев, когда чатботы придумывают уверенную ложькоторую создатели искусственного интеллекта оптимистично называют «галлюцинациями». По мнению Wired и некоторых исследователей ИИ, это удобный способ избежать слова «bullshit».
На старте Perplexity считали захватывающим стартапом, который мог бы создать новую бизнес-модель для издателей в противовес крупным конкурентам. Но чатбот компании не выдержал практически ни одной проверки. Ранее Associated Press сообщала, что он придумал фальшивые цитаты реальных людей. Перед этим Forbes поймал Perplexity за распространение статей издания без каких-либо ссылок. Главный юрисконсульт издания Мария-Роза Картолано обвинила чатбот в умышленном нарушении прав.
ChatGPT сфальсифицировал доказательства для суда — адвокату, который хотел «упростить себе работу», грозят штрафные санкции
Favbet Tech – это IT-компания со 100% украинской ДНК, которая создает совершенные сервисы для iGaming и Betting с использованием передовых технологий и предоставляет доступ к ним. Favbet Tech разрабатывает инновационное программное обеспечение через сложную многокомпонентную платформу, способную выдерживать огромные нагрузки и создавать уникальный опыт для игроков. IT-компания входит в группу компаний FAVBET.
