ChatGPT зависає у разі згадки деяких імен: є можливе пояснення

Чатбот ChatGPT блокує розмови у разі згадки певних імен. Профільне видання ARSTechnica припускає, що компанія-розробник OpenAI запровадила жорсткі фільтри на ці імена через випадки, коли штучний інтелект генерував неправдиву та потенційно наклепницьку інформацію про реальних людей.

Існування таких фільтрів помітили нещодавно, коли ChatGPT почав зависати на імені David Mayer. На Reddit навіть з'явилась теорія про зв'язок з Девідом Маєром де Ротшильдом (представник британської гілки родини Ротшильдів), але доказів цьому немає. На момент публікації цієї новини блок з імені David Mayer, схоже, був знятий.

Але ARSTechnica вказує, що це не єдине ім'я, яке "ламає" ChatGPT. Чатбот відмовляється продовжувати розмову і видає повідомлення про помилку на імена Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber, Guido Scorza.

Причина такого блокування, пише видання, може бути досить серйозна: ChatGPT раніше генерував неправдиву інформацію про цих людей.

Наприклад, чат стверджував, що Браян Гуд, мер одного з австралійських містечок, був ув’язнений за хабарництво, хоча насправді той був інформатором, який викрив корпоративні порушення. Про Джонатана Терлі, професора юридичного факультету Університету Джорджа Вашингтона у США, бот вигадав сексуальний скандал.

Існування жорстких блоків створює кілька потенційних проблем: люди з "заблокованими" іменами не зможуть нормально користуватися чатом, а зловмисники, навпаки, зможуть навмисно "ламати" роботу ChatGPT.