Штучний інтелект буде маніпулювати людськими думками: які це матиме наслідки

До таких висновків дійшли дослідники з Кембриджського центру Леверхалма з вивчення майбутнього інтелекту. За їхніми словами, зростання генеративного ШІ і наше зростаюче знайомство з чат-ботами відкривають нові горизонти "технологій переконання". Про це розповідає24 Каналз посиланням на TechXplore.

Чому виникають такі перспективи

Експерти прогнозують, що вже невдовзі можуть з'явитися помічники, створені на базі ШІ, які прогнозуватимуть і впливатимуть на ухвалення рішень, а також продаватимуть ці "наміри", що розвиваються, в режимі реального часу компаніям, здатним задовольнити потреби, — ще до того, як користувач усвідомлює, що прийняв рішення.

Фахівці з Кембриджського університету кажуть, що людство перебуває на зорі прибуткового, але тривожного ринку цифрових сигналів намірів – від купівлі квитка в кінотеатр до голосування на виборах.

Свої припущення вони будують на тому, що створені на базі ШІ помічники отримають доступ до великої кількості поведінкових і психологічних даних користувачів, які можна зібрати за допомогою діалогу.

Те, що люди говорять під час розмови, як вони це кажуть, і тип висновків, які можна зробити в режимі реального часу, – це набагато інтимніша інформація, ніж просто записи онлайн-взаємодій,
– заявив запрошений науковий співробітник LCFI д-р Якуб Чаудхарі.

Дослідники кажуть, що зараз економіка намірів є прагненням для технологічної галузі, однак ранні ознаки цієї тенденції уже можна відстежити. Зокрема до цього зараховують заклик до "даних, які виражають наміри людини будь-якою мовою, на будь-яку тему і в будь-якому форматі" в повідомленні в блозі OpenAI за 2023 рік, а директор із продуктів Shopify на конференції того самого року говорив про появу чат-ботів, які "явно визначатимуть наміри користувача".

У 2024 році нова платформа розробки "App Intents" від Apple для під'єднання застосунків до Siri містить протоколи для "передбачення дій, які хтось може здійснити в майбутньому" і "пропонування наміру застосунку комусь у майбутньому з використанням наданих розробником прогнозів".

Науковці кажуть, що ці події не обов'язково погані, але потенційно можуть бути руйнівними.