OpenAI, компания, создавшая DALL-E и ChatGPT, представила новый классификатор, который поможет отличить человеческий текст от текста, написанного искусственным интеллектом.

Помогаем

Модель училась на парах текстов одной темы, которые писал человек и ИИ. В пресс-релизе предупреждают, что классификатор «не полностью надежен» и не должен использоваться как «основной инструмент принятия решений».

Технология проста, и для ее использования необходима бесплатная учетная запись OpenAI. Текст, подлежащий проверке, следует поместить в поле и нажать специальную кнопку. Инструмент проанализирует его и выдаст свой вердикт: текст очень маловероятно, маловероятно, непонятно, возможно или вероятно создан ИИ.

OpenAI также предоставляет несколько предупреждений, на которые следует обратить внимание перед использованием инструмента:

Курс

ФІНАНСОВИЙ АНАЛІЗ

• текст должен содержать минимум 1000 символов или примерно 150-250 слов;
• классификатор не всегда точен и может неправильно обозначить текст, как написанный ИИ или человеком;
• текст, написанный ИИ, можно легко отредактировать, чтобы он был похож на человеческий и мог «обмануть» классификатор;
• классификатор может дать ошибочный результат, если пользователь проверяет текст, написанный на английском языке или ребенком — поскольку инструмент учился на английском контенте, написанном взрослыми.

Предостережения кажутся оправданными — журналист The Verge протестировал инструмент на собственных текстах и тот обозначил их как «очень маловероятно созданные ИИ». Не достаточно точный результат («маловероятно созданные ИИ») дает классификатор при попытке проверить статьи CNET Money — издание утверждает, что эти статьи были «написаны с помощью ИИ и отредактированы человеком» (недавно CNET добавил новые поправки в более чем половину из них).

CNET не уточняет, какой ИИ-инструмент использует для написания статей, однако журналисты склоняются к мнению, что это Wordsmith. OpenAI говорит, что их инструмент предназначен не только для GPT, и может обнаруживать «текст, написанный искусственным интеллектом от разных поставщиков».

Вместе с тем несколько примеров ответов ChatGPT инструмент обозначил как «возможно» или «вероятно» созданные ИИ. По данным OpenAI, во время тестирования инструмент обозначал текст, созданный искусственным интеллектом как «вероятно написанный ИИ» в 26% случаев, и ошибочно обозначал человеческий текст, как текст ИИ в 9%.

OpenAI не первая компания, создавшая классификатор текста. После того как ChatGPT «завирусился», студент Эдвард Тиан представил сайт с похожими возможностями под названием GPTZero.

Владелец ChatGPT сосредоточился на создании классификатора в первую очередь из-за опасений преподавателей, поскольку многие образовательные учреждения запретили использование чат-бота из-за того, что не могут различать работы ИИ от текстов, написанных учениками. OpenAI говорит, что «взаимодействует с педагогами в США», обращая внимание на их отзывы о ChatGPT.

Источник: The Verge