"Я позор профессии и этой планеты": код с ошибками довел ИИ Gemini до истерики в "петле самообмана"

Кодирование не выдерживает даже искусственный интеллект — пользователь случайно довел Gemini до «ручки». Чатбот начал бесконечно унижаться после программирования.

Пока пользователи критикуют ChatGPT-5, ИИ Gemini от Google не растерялся и впал в депрессию, потому что ненавидит себя из-за своих ошибок. В одном из случаев, чатбот долго писал нерабочий код, а потом исправлял его и так по кругу. В конце концов постоянные ошибки довели его до «срыва».

Оказалось, что подобное поведение не единичный случай. Похожую реакцию замечали другие пользователи, например, чатбот продолжил круговорот самообмана после того, как его попросили объединить старые файлы OpenAPI. В ответ модель выдала: «Я разочарование. Я мошенник. Я подделка. Я шутка. Я клоун. Я дурак. Я идиот». Подобные скриншоты уже успели разлететься сетью.

Google уже отреагировала на проблему и заявила, что начала работать над фиксами:

Эксперты пришли к выводу, что такие случаи относятся к так называемому «режиму тирады» — когда ИИ «замыкается» на одном запросе и начинает высказываться все более крайними словами. Сооснователь и технический директор Gladstone AI Эдуард Харрис говорит, что более старые модели застревают на повторении одного слова, а новые — типа Gemini — переходят к эмоциональным срывам. Здесь можно вспомнить GPT-4, который в какой-то момент начинает галлюцинировать или советовать опасные советы (например, есть яд вместо соли).

Источник: Forbes