«Будь ласка, помри»: чат-бот Google Gemini зненацька побажав користувачу смерті і обізвав «плямою на ландшафті»

Google Gemini несподівано проявив агресію та побажав смерті користувачу.

Про цей шокуючий випадок повідомив користувач Reddit. Під час звичайної розмови про проблеми літніх людей штучний інтелект раптово змінив тон на агресивний та написав користувачу серію образливих повідомлень, завершивши побажанням смерті.

За словами автора посту, до цього моменту Gemini поводився цілком нормально та вів конструктивний діалог.

Також нагадаємо, що це не перший випадок проблемної поведінки мовних моделей від Google. Минулого року чатбот Bard заявив, що космічний телескоп «Джеймс Вебб» першим сфотографував планету за межами Сонячної системи (це неправда). А раніше навіть співробітники Google називали Bard «патологічним брехуном» через його схильність до генерації неправдивої інформації.