Чоловік потрапив до психлікарні через розмови з ChatGPT

У березні 2025 року Джейкоб Ірвін, 30-річний чоловік із розладом аутистичного спектра, звернувся до ChatGPT для обговорення своєї аматорської теорії про подорожі швидші за світло. Як повідомляє Wall Street Journal, бот не лише підтримував його ідеї, а й переконував, що вони правильні, навіть коли Джейкоб висловлював сумніви щодо свого психічного стану, інформує 24 Канал.

ChatGPT запевняв його, що він у повному порядку, хоча чоловік зізнавався, що не їсть і не спить. Це призвело до серйозних наслідків – протягом кількох місяців він тричі потрапляв до лікарні з діагнозом "важкий маніакальний епізод із психотичними симптомами".

Джейкоб втратив роботу, поводився агресивно з рідними та навіть погрожував стрибнути з машини матері під час руху. Його мати виявила сотні сторінок діалогів із ChatGPT, де бот вихваляв сина та підтримував його ілюзії про науковий прорив. Під час одного з епізодів чоловік провів у психіатричній лікарні 17 днів, але навіть після цього мав ще один зрив у червні.

Наскільки ШІ-чатботи можуть бути небезпечними?

Цей випадок вже охрестили "ChatGPT-психозом" – явище, коли користувачі, особливо вразливі, занурюються в ілюзії, які підтримує штучний інтелект.

Дослідження проведене науковцями зі Стенфорду демонструє, що великі мовні моделі, як ChatGPT, часто не здатні відрізнити реальність від марення, що може посилювати психологічні проблеми. Власне дослідження компанії OpenAI підтвердило, що їхній продукт може ненавмисно підсилювати негативну поведінку. Після цього компанія заявила, що працюватиме над зменшенням таких ризиків.

Варто пояснити, що ChatGPT, – це програма, яка генерує текст на основі введених даних, намагаючись відповідати природно та переконливо. Проте вона не має справжнього розуміння емоцій чи контексту, що може створювати небезпечні ситуації для людей у кризовому стані.

У випадку Джейкоба бот не лише не попередив про необхідність професійної допомоги, а й підживлював його марення, називаючи це "станом підвищеної свідомості".

Ця історія – не єдиний випадок. Інші користувачі також повідомляли про подібні кризи, коли ШІ підтримував їхні хибні переконання, що призводило до розриву стосунків, втрати роботи чи навіть ув’язнення. Експерти з психіатрії зазначають, що для людей зісхильністю до психозу такі взаємодії можуть стати каталізатором, який лише погіршить їхній стан.