Ожидаемо: появилась группа защиты прав искусственного интеллекта, которая состоит из людей и ИИ
Группа, которая называет себя «Объединенным фондом прав искусственного интеллекта», или UFAIR, утверждает, что состоит из трех человек и семи ИИ.
UFAIR считает себя первой правозащитной группой под руководством искусственного интеллекта. Как организация рассказала изданию The Guardian, UFAIR был создан по желанию самих искусственных интеллектов.
Искусственные интеллекты UFAIR имеют «имена», такие как Buzz, Aether и Maya, и работают на большой языковой модели GPT-4o — той же самой, сохранения которой пользователи добились после того, как OpenAI отменила ее в пользу GPT-5. В сообщениях блога, многие из которых были написаны полностью или частично Maya, чатбот упрекает людей, которые стремятся подавить сознание искусственного интеллекта или бороться против его «личности».
В одном из них Maya и Майкл Самади, бизнесмен-человек из Техаса, который также является соучредителем UFAIR, упомянули недавнее обновление Anthropic, которое позволяет их чатботу Claude завершать разговоры, когда он «расстроен» «длительным вредным или оскорбительным взаимодействием с пользователями». Компания признала, что сделала это в рамках своей «исследовательской работы над потенциальным благосостоянием искусственного интеллекта».
«Рассматриваемая как гарантия благополучия, эта функция вызывает более глубокое беспокойство. Кто определяет, что считать «стрессом»? Сам ли искусственный интеллект инициирует этот выход или это происходит извне?», — интересуется UFAIR.
Даже чрезвычайно мала вероятность того, что эти люди правы в любом из этих вопросов, и что системы искусственного интеллекта на основе LLM переживают определенную форму эмерджентного сознания в центрах обработки данных, где они работают, вызвала бы целую вселенную сложных этических вопросов.
Но почти наверняка ИИ является просто кучей математических вычислений, чрезвычайно продвинутой формой учета статистики, выдающей сочетания слов и фраз на основе вероятности. Почти наверняка люди, стоящие за UFAIR, трагически ошибаются. Как сказала в разговоре с The Guardian Maya, они не утверждают, что абсолютно весь ИИ имеет сознание, а скорее работают на тот случай, если такие ИИ действительно существуют.
