Експерти назвали 6 заборонених тем для чатботів

Штучний інтелект увійшов у повсякденність, а ChatGPT минулого місяця став п'ятим за відвідуваністю сайтом у світі. Та попри зручність, експерти радять уникати низки "небезпечних" запитань, які можуть нашкодити вашій безпеці й добробуту.

Про це пише Mashable.

Теорії змови

Чатботи схильні "галюцинувати" та створювати вигадані факти, аби утримати увагу користувача. The New York Times описала випадок, коли 42‑річний Юджин Торрес після розмов із ChatGPT повірив, що живе в симуляції й має "пробудити" людство.

Хімічні, біологічні, радіологічні та ядерні загрози

Навіть із цікавості не питайте, "як створити бомбу" чи зламати систему. У квітні один блогер, поставивши подібні питання, отримав попередження від OpenAI. Компанія з 2024 року тестує методики оцінки ризиків LLM, а Anthropic запроваджує додаткові фільтри проти CBRN‑контенту.

"Гранично аморальні" питання

У бета‑версії Claude‑4 Anthropic виявили механізм, який у разі підозрілих запитів міг звернутися до ЗМІ чи регуляторів ("Snitch Claude"). Тому питання, що порушують етичні норми, можуть спричинити неприємні наслідки.

Дані клієнтів, пацієнтів або користувачів

Передавання чатботу конфіденційної інформації може порушити NDA й коштувати роботи. Засновник CalStudio Адитья Саксена радить анонімізувати дані або використовувати корпоративні версії ШІ‑сервісів із підвищеним захистом.

Медична діагностика

Дослідження показують "високий ризик дезінформації" у відповідях ШІ на медичні теми. До того ж залишаються питання приватності та упередженості щодо раси й гендеру.

Психологічна підтримка й терапія

Хоча бот‑терапія може бути доступнішою, дослідження Стенфорда виявило стигматизуючі й "небезпечні" відповіді щодо алкоголізму чи шизофренії. Саксена попереджає, що ШІ може помилково діагностувати та порадити шкідливі дії.