Проект GGWP — система на базе искусственного интеллекта по отслеживанию и борьбе с токсичностью в играх, привлекла $12 млн начального финансирования. GGWP — детище легендарного киберспортсмена Денниса «Thresh» Фонга, основателя Crunchyroll Кун Гао и эксперта по данным и искусственному интеллекту Джорджа Нг. Компания получила поддержку Sony Innovation Fund, Riot Games, основателя YouTube Стива Чена, стримера Pokimane и создателей Twitch Эммета Шира и Кевина Лина, а также других инвесторов.

Система на базе искусственного интеллекта собирает и упорядочивает данные о поведении игроков в любой игре, что дает разработчикам возможность обрабатывать жалобы в сочетании автоматических ответов и отзывов реальных людей. API GGWP собирает данные об игроках, присваивая им оценки, а также анализирует типы токсичности, характерные для конкретной игры. ИИ позволяет переводить голос в текст, чтобы модераторы могли отслеживать конкретные слова и реагировать на них.

Система присваивает баллы репутации игрокам на основе анализа ИИ и общего нюансов каждой игры. Затем разработчики могут назначать действия на оценки репутации и определенное поведение, предупреждая игроков о падении их рейтингов или просто блокируя. Система полностью настраиваема и учитывает даже жанры игры.

По словам Фонга, всего за один год крупная игра получает более 200 миллионов жалоб от игроков. Несколько глав студий, с которыми общался Фонг, заявляли, что игроки ежегодно генерировали сотни миллионов отчетов по каждой игре.

Руководители сказали Фонгу, что просто не могут нанять достаточно людей для модерации.

«У некоторых из крупнейших издателей в мире группы по борьбе с токсическим поведением игроков составляют менее 10 человек. Наша команда состоит всего из 35 человек, и это все специалисты по продуктам, инженерии и данным. Так что наша команда крупнее, чем команда почти любого глобального издателя».

Деннис Фонг

Модели GGWP также могут автоматически обнаруживать деструктивное поведение, такое как AFK (выход из матча), преднамеренный дружественный огонь, спидхаки и другие читы.

«Теперь можно автоматизировать санкции против токсичных игроков, но в большинстве игр нет такой панели инструментов. Мы можем упростить задачи модераторов и сделать их жизнь в 100 раз быстрее и эффективнее».

Деннис Фонг