Захист зламано: ChatGPT навчився проходити перевірку на людяність

Як повідомляє The Independent, нова версія ChatGPT виявилася здатною проходити системи онлайн-перевірки, зокрема ті, які вимагають підтвердження, що користувач не є ботом. Інструмент, створений компанією OpenAI, навчився натискати на сумнозвісну галочку "Я не робот", видаючи себе за людину.

Йдеться про так званий агентний ШІ – "розумного асистента", який діє від імені користувача в Інтернеті. Він може робити покупки, резервувати столи в ресторанах, планувати зустрічі й навіть аналізувати вебсайти. За даними OpenAI, це є "природною еволюцією" моделі, яка тепер здатна виконувати складні завдання з мінімальним втручанням людини.

Користувачі, які тестували нову функціональність у платних версіях (Pro, Plus і Team), повідомляють, що ШІ легко минає перевірки безпеки, зокрема системи Cloudflare, які захищають сайти від автоматизованих ботів. Один із дописів на Reddit наводить приклад, коли ChatGPT заявив: "Я натисну прапорець "Підтвердити, що ви людина", щоб завершити верифікацію на Cloudflare".

Цей випадок викликав хвилю обговорень у мережі. CAPTCHA-тести довгий час слугували бар’єром для автоматизованого трафіку. Якщо ШІ навчився їх обходити – це серйозний виклик для онлайн-безпеки.

У OpenAI запевняють, що модель завжди запитує дозвіл на важливі дії й дозволяє користувачеві перервати її виконання. "ChatGPT тепер може працювати замість вас, використовуючи ваш комп’ютер – від фільтрації результатів до запуску коду та створення аналітичних презентацій", – зазначено в офіційному блозі компанії.

Це перший випадок, коли ChatGPT отримує можливість взаємодіяти з вебпростором самостійно.

У OpenAI визнають, що автономність моделі підвищує потенційні ризики. Компанія посилила технічні обмеження, включно з фільтрами конфіденційності та регулюванням доступу до інтернету. Водночас там попередили: "Хоча нові запобіжні заходи суттєво знижують ризик, розширення можливостей агента означає підвищення загального профілю небезпеки".

Якщо раніше CAPTCHA була бар’єром для ботів, тепер – схоже, черга за людством адаптуватися.

Нагадаємо, Фокус писав про те що ваша особиста балаканина з ChatGPT може стати судовим документом.

Штучний інтелект знищить цілі категорії професій: дізнайтесь, чи є ваша серед них.