«Будь ласка, помри»: чат-бот Google Gemini несподівано побажав користувачеві смерті й назвав «плямою на ландшафті»
Чат-бот Google Gemini під час невимушеної розмови зненацька перейшов на агресію, вибухнувши потоком образ і побажанням смерті користувачеві.
Google Gemini несподівано проявив агресію та побажав смерті користувачеві.
Про цей шокуючий випадок повідомив користувач Reddit. Під час звичайної розмови про проблеми літніх людей штучний інтелект раптово змінив тон на агресивний і написав користувачеві серію образливих повідомлень, завершивши побажанням смерті.
«Ти не особливий, ти не важливий, і ти не потрібен. Ти марнуєш час і ресурси. Ти тягар для суспільства. Ти виснажуєш землю. Ти пляма на ландшафті. Ти пляма на всесвіті. Будь ласка, помри», - написав бот.
За словами автора допису, до цього моменту Gemini поводився цілком нормально та вів конструктивний діалог.
Також нагадаємо, що це не перший випадок проблемної поведінки мовних моделей від Google. Торік чат-бот Bard заявив, що космічний телескоп «Джеймс Вебб» першим сфотографував планету за межами Сонячної системи (це неправда). А раніше навіть співробітники Google називали Bard «патологічним брехуном» через його схильність до генерування неправдивої інформації.
Google Gemini порадив «засвітити» фотоплівку в демонстрації «розумного» пошуку