Новая китайская ИИ-модель считает себя ChatGPT. Вот почему это происходит
Раздел Технологии выходит при поддержке
На прошлой неделе китайская лаборатория искусственного интеллекта выпустила новую «открытую» модель искусственного интеллекта под названием DeepSeek, которая превзошла многих конкурентов по популярным тестам (включая программирование и написание эссе), однако имеет одну интересную особенность — считает, что она ChatGPT.
Ряд постов с подобными заявлениями DeepSeek распространили в X и Reddit. Модель также уточняет, к какому именно выпуску она принадлежит — версии GPT-4, выпущенной в 2023 году.
This actually reproduces as of today. In 5 out of 8 generations, DeepSeekV3 claims to be ChatGPT (v4), while claiming to be DeepSeekV3 only 3 times.
Gives you a rough idea of some of their training data distribution. https://t.co/Zk1KUppBQM pic.twitter.com/ptIByn0lcv
— Lucas Beyer (bl16) (@giffmana) December 27, 2024
Почему это происходит? Издание TechCrunch пишет, что обе модели — ChatGPT и DeepSeek V3 — статические системы, которые учатся на миллиардах примеров с шаблонами, чтобы делать прогнозы по тексту (даже в таких элементарных вещах, как определить, где поставить запятую в предложении). Китайцы не раскрыли учебных данных своей модели, однако общедоступных наборов с текстом, созданным GPT-4 через ChatGPT, сейчас предостаточно — так что вполне возможно, что DeepSeek ими воспользовалась и просто воспроизводит выходные данные дословно.
«Очевидно, что в какой-то момент модель получает необработанные ответы от ChatGPT, но непонятно, откуда именно», — сказал в комментариях изданию Майк Кук, научный сотрудник Королевского колледжа Лондона, который специализируется на ИИ. «Это может быть «случайностью»… но, к сожалению, мы уже видели случаи, когда люди учили свои модели на данных других моделей, чтобы попытаться использовать эти знания».
Кук отметил, что практика обучения моделей на результатах конкурентных систем искусственного интеллекта может быть «очень плохой» для качества модели, поскольку это может привести к галлюцинациям и обманчивым ответам, подобным приведенным выше.
«Подобно фотокопиям, мы теряем все больше информации и связи с реальностью», — добавляет Кук.
Это также может противоречить условиям обслуживания этих систем. Правила OpenAI, например, запрещают пользователям ChatGPT использовать результаты для разработки моделей, которые конкурируют с собственными системами OpenAI.
Ни одна из компаний не ответила на запрос журналистов, однако босс стартапа Сэм Альтман в те же дни, когда распространились посты с DeepSeek, написал:
«Относительно легко скопировать то, что, как вы знаете, уже работает. Невероятно сложно делать что-то новое и рискованное, когда ты не знаешь, каким будет результат».
На самом деле, DeepSeek V3 далеко не первая модель, которая ошибочно идентифицировала себя. Google Gemini на запрос китайским языком отвечала, что она является чат-ботом Wenxinyiyan китайской компании Baidu.
Новая модель ChatGPT o1 «плела интриги против людей» и мешала себя выключить во время контрольных тестов, — Apollo Research
Раздел Технологии выходит при поддержке
Favbet Tech – это IT-компания со 100% украинской ДНК, которая создает совершенные сервисы для iGaming и Betting с использованием передовых технологий и предоставляет доступ к ним. Favbet Tech разрабатывает инновационное программное обеспечение через сложную многокомпонентную платформу, способную выдерживать огромные нагрузки и создавать уникальный опыт для игроков.
