Неизвестные разместили торрент LLaMA – новой языковой модели на основе искусственного интеллекта от Meta – в соцсети 4chan.

В январе Meta выпустила свою языковую модель ИИ LLaMA — не как общедоступный чат ChatGPT от OpenAI или Bing от Microsoft, а как пакет с открытым исходным кодом, доступ к которому могут получить члены ИИ-сообщества. Спустя неделю после того, как компания начала принимать запросы, торрент для загрузки языковой модели появился на сайте 4chan, а впоследствии распространился по другим сообществам.

Некоторые начали критиковать Meta за поспешность и слишком свободное распространение технологии.

«Приготовьтесь к большому количеству персонализированного спама и попыткам фишинга. Открыть исходный код этих моделей было ужасной идеей», – написал исследователь кибербезопасности Джеффри Ладиш.

Другие настроены более оптимистично — мол, открытый доступ необходим для разработки мер безопасности для систем ИИ, а аналогичные сложные языковые модели уже были обнародованы, не нанеся значительного ущерба.

«Давно говорят, что приближается волна злонамеренного использования ИИ. Однако никаких задокументированных случаев до сих пор не было», — пишут в блоге исследователи кибербезопасности Сайаш Капур и Арвинд Нараянан.

(Капур и Нараянан не принимают во внимание случаи мошенничества студентов с использованием ChatGPT для учебы или публикации журналистских материалов, написанных ИИ с ошибками — потому что они «не предназначены для причинения вреда»).

Исследователь Мэтью Ди Ферранте сравнил появившуюся в сети программу с официальной моделью LLaMA, подтвердив, что они идентичны. Meta на запрос журналистов пока не ответила, а Джоэл Пино, директор Meta AI, прокомментировал коротко:

«Хотя модель LLaMA доступна не всем… некоторые пытались обойти процесс утверждения».

Чем угрожает свободный доступ к LLaMA?

Если рядовой интернет-пользователь загрузит программу, то вряд ли он извлечет из нее какую-нибудь пользу – это «сырая» система искусственного интеллекта, для запуска которой требуется приличное количество технических знаний. LLaMA также не настроена для общения, как ChatGPT или Bing.

«Большинство людей вообще не владеют аппаратным обеспечением, необходимым для запуска LLaMA», — говорит Стелла Бидерман, директор некоммерческой исследовательской лаборатории искусственного интеллекта EleutherAI.

LLaMA — это система, представленная в четырех моделях, измеряемых миллиардами параметров (есть LLaMA-7B, 13B, 30B и 65B). В Meta говорят, что 13-миллиардная версия, которую можно запустить на одном графическом процессоре A100, превосходит модель GPT-3 OpenAI со 175 млрд параметров во многих тестах.

Утечка LLaMA также интересна тем, что наконец-то может решить дискуссию об «открытых» и «закрытых» ИИ-системах. Сторонники первых утверждают, что только широкомасштабное тестирование может обнаружить уязвимости и разработать меры предосторожности, а «закрытые» технологии лишь сосредоточат власть над технологиями в руках «безразличных корпораций». Остальные отмечают, что ИИ становится все сложнее и публичное тестирование может быть опасным.

«Сырая» LLaMA действительно особенно привлекательна для изучения, поскольку специалисты смогут точно настроить системы Meta в соответствии со своими целями. Независимый ИИ-исследователь Шон Прессер представляет, что будущие версии LLaMA можно будет разместить на компьютере и обучать на электронных письмах; впоследствии ИИ сможет отвечать на вопросы о вашем рабочем графике, идеях, списках дел и т.д.

OpenAI представила API для интеграции ChatGPT в сторонние приложения, API Whisper для перевода речи в текст и движок GPT-3.5-turbo

Источник: The Verge