Глава OpenAI Сэм Альтман предложил создать агентство контроля над ИИ и выдавать лицензии на разработку
На слушаниях в Сенате США CEO OpenAI Сэм Альтман предложил создать агентство контроля над моделями ИИ, которые работают «выше определенного уровня возможностей». Агентство должно выдавать лицензии на передовые разработки в области искусственного интеллекта и забирать их, если компании нарушают установленные правила.
Предложение Альтмана было высказано в ответ на опасения сенаторов по поводу чрезмерного энтузиазма, который проявляют представители технологической отрасли к технологии ИИ – форсирование разработок могло бы привести к неконтролируемым последствиям. Он согласился с замечанием сенаторов, что агентство могло бы действовать подобно Комиссии по ядерному регулированию, которая выдает лицензии на атомные электростанции и строго контролирует их эксплуатацию.
Альтман подтвердил, что ИИ действительно может выйти из-под контроля:
«Я думаю, что если с этой технологией что-то пойдет не так, оно может пойти совсем не так. Мы хотим громко заявить об этом и работать с правительством, чтобы этого не произошло».
Языковая модель ИИ от OpenAI, лежащая в основе чат-бота GhatGPT стала одной из наиболее успешных и во многом спровоцировала бум вокруг технологий искусственного интеллекта в конце прошлого года. Первоначальный восторг сообщества у многих его представителей сменился опасениями. Тысячи видных деятелей отрасли и известных личностей подписали открытое письмо о временном ограничении разработки ИИ до создания правил его работы.
Илон Маск и более 1000 экспертов подписали открытое письмо об опасности продвинутых ИИ – предлагается мораторий на разработку и регулирование
Источник: Insider
