Поисковик Google начинает внедрение новой модели машинного обучения MUM, которая должна находить «широкий спектр личных поисковых запросов в кризисных ситуациях».

Впервые эта система была представлена на конференции I/O 2021, и сейчас MUM сможет обнаруживать поисковые запросы, связанные с трудными личными ситуациями.

«MUM может помочь нам понять более длинные или сложные вопросы, такие как «почему он напал на меня, когда я сказала, что не люблю его». Для людей может быть очевидно, что этот запрос касается домашнего насилия, но такие длинные запросы на естественном языке нашим системам трудно понять без продвинутого искусственного интеллекта».

Энн Мерритт, менеджер по продуктам Google в области здравоохранения и качества информации

Другие примеры запросов, на которые система может реагировать, например, «наиболее распространенные способы совершения самоубийства». Как говорит Мерритт, более ранние алгоритмы «могли понимать запрос как поиск информации». Теперь, когда Google обнаруживает такой запрос, он выводит информационное окно «Помощь доступна», обычно сопровождаемое номером телефона или веб-сайтом благотворительной организации по охране психического здоровья.

Тем не менее, эксперты в области ИИ считают, что широкое использование языковых моделей машинного обучения может привести к появлению новых проблем, например, предвзятость и дезинформация в результаты поиска. Системы искусственного интеллекта также непрозрачны, предлагая инженерам ограниченное представление о том, как они приходят к определенным выводам.

Издание The Verge поинтересовалось у Google, как можно проверить, какие поисковые запросы, определенные MUM, связаны с личными кризисами. Представители поисковика либо не захотели, либо не смогли ответить. Компания заявляет, что тщательно тестирует изменения в своих поисковых продуктах с помощью людей-оценщиков, но это не то же самое, что заранее знать, как ваша система ИИ будет реагировать на определенные запросы.