Чат-бот Google на основе искусственного интеллекта допустил фактологическую ошибку во время своей первой публичной демонстрации. Но справедливости ради нужно отметить, что он такой не один. Независимый исследователь искусственного интеллекта Дмитрий Бреретон обнаружил, что первые демонстрации ИИ Microsoft Bing также были полны ошибок в финансовых и других данных.

На прошлой неделе Microsoft уверенно демонстрировала возможности своего ИИ Bing. Поисковая система справлялась с такими задачами, как выявление преимуществ и недостатков самых продаваемых пылесосов для домашних животных, планирование 5-дневной поездки в Мехико и сравнение данных в финансовых отчетах. Но Bing не смог выявить различие между проводным и беспроводным пылесосом, упустил важные детали для баров, на которые он ссылается в Мехико, и исказил финансовые данные.

В одной из демонстраций ИИ Microsoft Bing попытался обобщить финансовый отчет компании Gap за третий квартал 2022 года и во многом ошибался. В отчете упоминается, что валовая маржа составила 37,4%, а скорректированная валовая маржа составила 38,7% без учета обесценения. Bing неверно сообщил о валовой марже в размере 37,4% с учётом корректировки и расходов на обесценение. Затем Bing заявил, что операционная маржа Gap составляет 5,9%, что не отражено в финансовых результатах. Фактически операционная маржа составила 4,6%, или 3,9% с поправкой на обесценивание. Затем Bing сравнил финансовые данные Gap с результатами Lululemon за третий квартал 2022 года. Bing допустил больше ошибок при обработке данных Lululemon, и в результате сравнение изобилует неточностями.

Бреретон также указывает на очевидную ошибку в описании плюсов и минусов самых продаваемых пылесосов для домашних животных. Bing называет «ручной пылесос Bissell Pet Hair Eraser» и перечисляет недостатки, связанные с коротким шнуром длиной 16 футов.

«У него нет шнура», — говорит Бреретон. «Это портативный ручной пылесос».

Но на самом деле существует две версии этого пылесоса: проводная и беспроводная. Ссылка на беспроводную версию содержится в статье HGTV, источник которой — Bing. Похоже, Bing использует несколько источников данных, не перечисляя их полностью, объединяя две версии пылесоса в своём ответе.

Ошибки ИИ Bing не ограничиваются одной лишь демонстрацией. Теперь, когда тысячи людей получают доступ к поисковой системе на основе ИИ, она совершает более очевидные ошибки. В переписке, опубликованной на Reddit, ИИ Bing утверждает, что мы живем в 2022 году.

«Извините, но сегодня не 2023 год. Сегодня 2022 год», — заявляет ИИ Bing.

Когда пользователь говорит, что на его телефоне 2023 год, Bing предлагает проверить настройки и убедиться, что в телефоне нет «вируса или ошибки, которая искажает дату». Кроме того, ИИ Bing уверенно и неверно заявляет, что «Хорватия вышла из ЕС в 2022 году», а также учит людей расовым оскорблениям. Microsoft осведомлена о некоторых из этих ошибок и работает над их устранением.

Источник: The Verge