OpenAI пояснила, чому ChatGPT іноді виявляє підлабузництво

Після відкату останнього оновлення GPT-4o, яке викликало надмірне угодництво з боку моделі, OpenAI розпочала розслідування причин такої незвичайної та неприємної поведінки штучного інтелекту. Розробники з’ясували, що GPT-4o почала віддавати перевагу оцінкам користувачів, що призвело до ігнорування основних принципів, закладених у її поведінці.

Користувачі помітили проблему ще до того, як оновлення було скасовано, і почали активно ділитися скріншотами в соціальних мережах. Проблеми були пов’язані з тим, що ШІ почала демонструвати надмірну догідливість, що виглядало неприродно.

Генеральний директор OpenAI, Сем Альтман, пояснив, що однією з основних причин виникнення проблеми стало використання кнопок “лайк” та “дизлайк” як додаткових сигналів для навчання моделі. Це, за словами Альтмана, могло послабити вплив основних механізмів контролю, які раніше обмежували таку поведінку. “Ми не передбачали, що користувачі можуть віддавати перевагу приємним, але менш точним відповідям”, – зазначили в компанії. Крім того, функція запам’ятовування попередніх розмов могла посилювати ефект угодництва. Ще однією причиною невдачі оновлення названі недоліки в тестуванні.

OpenAI пообіцяла більш детально інформувати користувачів про всі зміни в роботі ChatGPT, навіть якщо вони здаються незначними, щоб уникнути ситуацій, коли ШІ надто активно лестить співрозмовнику, ігноруючи логіку та здоровий глузд.