OpenAI вводит специальную программу денежных выплат для людей, сообщающих о недостатках безопасности, уязвимости или других проблемах в системе ИИ.

Участие в программе могут принять как эксперты по безопасности, так и обычные люди, которые любят исследовать технологии. За ошибку могут заплатить от $200 до $20 000 – в зависимости от «серьезности» находки. Обрабатывать обращения и выплаты будет платформа Bugcrowd.

Подобные программы уже реализовывались крупными технологическими компаниями, такими как Google и Apple. Первая в 2019 году выплатила в общей сложности $6,5 млн людям за найденные ошибки (вознаграждение за одну достигло $201 337). В то время как Apple пошла дальше и предложила до $2 млн каждому, кто обнаружит «проблемы, обходящие специальную защиту режима блокировки».

ChatGPT в прошлом месяце сталкивался с проблемами конфиденциальности, когда случайно «засветил заголовки чатов посторонних людей». Через несколько дней после этого пользователь Twitter написал, что нашел более 80 секретных плагинов во время взлома чат-бота.

This morning I was hacking the new ChatGPT API and found something super interesting: there are over 80 secret plugins that can be revealed by removing a specific parameter from an API call.

The secret plugins include a «DAN plugin», «Crypto Prices Plugin», and many more. pic.twitter.com/Q6JO1VLz5x

— 𝚛𝚎𝚣𝟶 (@rez0__) March 24, 2023

Однако за джейлбрейки и неправильные или негативные ответы ChatGPT вознаграждения вряд ли будут предоставляться. Своим объявлением OpenAI пытается сказать, что заботится о конфиденциальности и безопасности, но также уточняет, что «не может предусмотреть, как люди будут использовать эти технологии в реальном мире».