Google DeepMind детально описала, як штучний інтелект може знищити світ

Дослідники Google DeepMind працювали над проблемою безпеки загального штучного інтелекту (AGI) та випустили документ, який пояснює ризики й принципи безпечної розробки.

PDF-файл містить величезну кількість деталей і налічує 108 сторінок зі списком посилань на літературу. Деякі фахівці зі штучного інтелекту кажуть, що AGI - це нездійсненна мрія, але автори з DeepMind вважають, що він може з’явитися до 2030 року. Фахівці прагнули зрозуміти ризики створення синтетичного інтелекту, схожого на людський, і вважають, що він може завдати людству серйозної шкоди.

Дослідження визначає чотири типи ризиків від AGI разом із пропозиціями, як їх запобігти. Команда DeepMind вважає проблемами неправильне використання, розбіжності (misalignment), помилки та структурні ризики. Неправильне використання та розбіжності обговорюються в статті докладно, а два останні висвітлюються лише побіжно.

Перша можлива проблема, неправильне використання, схожа на наявні ризики ШІ. Однак, оскільки AGI за визначенням буде потужнішим, шкода, якої він може завдати, значно більша. За надто великого доступу до AGI зловмисники можуть зловживати системою, щоб завдати шкоди - наприклад, виявити та використати вразливості нульового дня або створити вірус, який можна застосувати як біологічну зброю.

DeepMind зазначає, що компаніям, які розробляють AGI, доведеться провести всебічне тестування та створити надійні протоколи безпеки. Вони також пропонують розробити метод повного придушення небезпечних здібностей, який називають «відучуванням», але незрозуміло, чи можливо це без суттєвого обмеження моделей.

Розбіжність - це стан, коли машина позбувається обмежень, накладених її розробниками. ШІ виконує дії, які, як він знає, не були метою розробника. DeepMind стверджує, що їхній стандарт для розбіжності є більш просунутим, ніж простий обман чи інтрига.

Щоб уникнути цього, DeepMind пропонує розробникам працювати над надійністю моделей, проводити інтенсивне стрес-тестування та моніторинг, щоб виявити будь-які натяки на обман. AGI має перебувати у віртуальних «пісочницях» із суворою безпекою та прямим людським наглядом, це допоможе пом’якшити проблеми.

Якщо ж штучний інтелект не знав, що його результат буде шкідливим, а людина-оператор не мала на меті шкоди, це помилка. Сучасні моделі ШІ теж роблять подібні помилки, але AGI може зробити значно серйозніші. DeepMind наводить приклад військових, які можуть розгорнути AGI через суперництво з можливим противником, але недостатньо «застрахують» його від помилок.

Стаття не містить надто доброго рішення для пом’якшення помилок. У ній дослідники рекомендують уникати різкого стрибка потужності ШІ. Вони пишуть про повільне розгортання та обмеження можливостей AGI, а також рекомендують пропускати команди AGI через систему «щита», яка гарантує їхню безпеку перед впровадженням.

Структурні ризики - це непередбачені наслідки роботи багатоагентних систем. Наприклад, AGI може створювати неправдиву інформацію, яка настільки правдоподібна, що ми вже не знаємо, кому чи чому довіряти. У документі також висувається ймовірність того, що AGI може накопичувати дедалі більше контролю над економічними та політичними системами. «Потім одного дня ми дивимося вгору й розуміємо, що машини керують замість нас», - зазначає Ars Technica. Таким ризикам найважче протистояти, це залежить від суспільного устрою та багатьох чинників.

Цей документ не є останнім словом щодо безпеки AGI: DeepMind зазначає, що це лише «відправна точка для життєво важливих розмов». Якщо дослідники не помиляються, і AGI змінить світ лише за п’ять років, про це потрібно говорити вже зараз.