Обережно із ШІ: чат-бот ChatGPT-4o відправляє користувачів на сайти шахраїв

ChatGPT нехтує перевіреними авторитетними джерелами й віддає перевагу сумнівним сайтам, що розміщують неперевірену інформацію, згенеровану ШІ.

Чат-бот ChatGPT здатен виконати серфінг в інтернеті самостійно, щоб надати користувачам актуальну інформацію. Однак не завжди ШІ звертається до перевірених джерел, які заслуговують на довіру. Видання Futurism з'ясувало, що ШІ-бот OpenAI не гребує шахрайськими сайтами, перенаправляючи туди людей.

Відповідаючи на запит журналістів щодо локальних новин, ChatGPT версії 4o неодноразово посилався на шахрайський новинний сайт Country Local News, який ряснів фейковими оголошеннями про необхідність оновити програмне забезпечення (ПЗ) і фальшивими попередженнями про віруси. Спливаючі вікна закликали користувачів оновити Adobe Flash Player та інші подібні програми. Коли автори матеріалу клікнули на таке оголошення, сайт перейшов у повноекранний режим і продемонстрував величезну кількість фальшивих повідомлень про віруси під брендом антивірусної компанії McAfee.

Марк Стоклі, експерт із кібербезпеки з компанії Malwarebytes, ознайомився із ситуацією і сказав, що в найгіршому випадку такі шкідливі сповіщення можуть спровокувати користувача завантажити потенційно небажану програму (PUP) — тип програмного забезпечення, яке зовсім не потрібне, яке може дратувати або його важко видалити.

За його словами, за останні 18 місяців він і його колеги спостерігали величезний сплеск шкідливої реклами, використовуваної як засіб поширення шкідливого ПЗ. Злочинці розміщують рекламу в законних рекламних мережах, щоб заманити людей на підроблені веб-сайти та обманом змусити їх завантажити шкідливе ПЗ, видавши його за законну програму. Стоклі зазначив, що шкідлива реклама імітує відомі бренди, але її надзвичайно складно виявити, а шахраї, які її роблять, можуть зловживати засобами управління таргетингом рекламних мереж, щоб гарантувати, що люди побачать фальшиву рекламу того, що їх, найімовірніше, зацікавить.

Група зі спостереження за дезінформацією NewsGuard раніше виявила, що GPT-4 OpenAI посилався на матеріали, які були явно згенеровані ШІ. Ці статті також розташовувалися на сайтах локальних новин.

Журналісти Futurism дійшли висновку, що для ChatGPT матеріали, створені ШІ, є кращими за статті з таких авторитетних джерел, як New York Times або Washington Post. Цікаво, що чат-бот не здатен оцінити надійність того чи іншого джерела. На запит про таку оцінку він пропонує користувачеві самому зіставити його звіти з більш авторитетними джерелами, взявши до уваги прозорість їхньої редакційної практики. В інших випадках він попереджає про публікації, що вводять в оману, і про свою нездатність надати надійні джерела.

Представник McAfee, антивірусної компанії, яку видавали за рекламу, розкритикував ChatGPT за те, що він рекомендував користувачам перейти на шахрайський сайт. Зі свого боку, коли журналісти довели до відома компанії OpenAI інформацію про некоректну роботу чат-бота, там пообіцяли виправити проблеми цитування ChatGPT у майбутньому.

Але за тиждень ChatGPT все ще цитував місцеві новинні сайти, які, як і раніше, показували користувачам оголошення про термінове оновлення ПЗ й перевірку комп'ютерів на наявність вірусів.