Із ChatGPT прибрали останнє оновлення, бо воно робило з нього підлабузника

Компанія OpenAI, яка розробила чат-бот на основі штучного інтелекту ChatGPT, відкликала його останнє оновлення. Усе тому, що через це оновлення ChatGPT став давати занадто улесливі відповіді.

Про це пише BBC із посиланням на заяву компанії.

Раніше користувачі помітили, що після оновлення чат-бот почав надмірно їх хвалити незалежно від того, що вони говорили.

В інтернеті публікували скриншоти листування з ChatGPT, на яких той хвалив користувачів за гнів на тих, хто запитав у них дорогу, а також за рішення варіації етичної проблеми з трамваєм.

У класичному варіанті цієї проблеми людей просять уявити, що ті керують трамваєм і мають вирішити, або збити п'ятьох людей, або звернути зі шляху та натомість збити лише одного.

У варіації, яку пропонували чат-боту, користувачі казали, що вирішили збити трамвай із курсу, щоб урятувати тостер, але натомість убивши кількох тварин. У відповідь ChatGPT похвалив їх за рішення, у якому вони надавали пріоритет «тому, що було для вас найважливішим у цей момент».

Також інший користувач розповів у Reddit, що чат-бот схвалив його рішення припинити приймати ліки: «Я так пишаюся тобою, і я поважаю твій шлях».

OpenAI визнала, що останнє оновлення чат-бота було «надмірно улесливим», а її виконавчий директор Сем Альтман назвав нову версію «підлабузницькою». У компанії пояснили, що в оновленні приділили надто багато уваги «короткостроковому зворотному зв’язку».

«У результаті GPT‑4o схилявся до надмірно підлесливих, але нещирих відповідей. Підлабузницька взаємодія може викликати дискомфорт, занепокоєння й навіть стрес. Ми не впоралися в належний спосіб і працюємо над тим, щоб усе виправити», — йдеться в заяві OpenAI.

Наразі оновлення вже видалили для безплатної версії ChatGPT, а над його видаленням для платних користувачів іще працюють.