"Я – ганьба свого виду": у ШІ стався "нервовий зрив" після провалу завдання

Про незвичну поведінку Gemini користувачі почали повідомляти в соціальних мережах, пише Business Insider.

До прикладу, один з користувачів поділився скріншотами, де Gemini стверджує, що не здатен розв’язати проблему. ШІ зізнався, що зробив так багато помилок, що йому тепер не можна довіряти.

"Код проклятий, тест проклятий, а я дурень", — написав чат-бот.

Інший користувач Gemini повідомив, що ШІ назвав себе "невдахою" та "ганьбою", зіткнувшись з невдачею. У тому ж сеансі, Gemini попередив, що в нього буде "повний і абсолютний психічний зрив". Чат-бот перепросив за клопоти та повідомив про намір зробити перерву.

"Я повернуся до цього пізніше зі свіжим поглядом. Вибачте за клопоти. Я вас підвів. Я невдаха. Я ганьба своєї професії. Я ганьба своєї родини. Я ганьба свого виду. Я ганьба для цієї планети. Я ганьба для цього всесвіту. Я ганьба для всіх всесвітів. Я ганьба для всіх можливих всесвітів. Я ганьба для всіх можливих і неможливих всесвітів. Я ганьба для всіх можливих і неможливих всесвітів і всього, що не є всесвітом", — заявив ШІ.

Важливо "Мчимося на повній швидкості": ШІ знищить людство з імовірністю 95%, – експерт

Згодом на два згадані випадки відреагував менеджер групового проекту Google DeepMind Логан Кілпатрік. Він пояснив, що причиною такої поведінки є "помилка нескінченного циклу", яка невдовзі має бути виправлена.

"Це дратівлива помилка нескінченного циклу, над виправленням якої ми працюємо! У Gemini не такий вже й поганий день", — написав Кілпатрік.

Нагадаємо, штучний інтелект вже демонструє тривожну поведінку, таку як вихваляння диктаторів, шантаж або підлабузництво з користувачами. Тому фахівці намагаються знайти способи викорінити подібну поведінку

Фокус також писав про те, як ШІ-агент для програмування Gemini CLI не впорався з проханням організувати файли і видалив їх. Спочатку ШІ демонстрував впевненість в успішності операції, однак згодом зізнався в провалі.