Британські дослідники попередили про одну з головних загроз від ШІ для людства

За прогнозами дослідників з Кембриджського центру Леверхалма з вивчення штучного інтелекту, наразі вже є системи ШІ, здатні маніпулювати людськими думками робити самостійні висновки та прогнози. 

Що відомо про загрозу встановлення ШІ контролю над людськими думками

Дослідники попереджають, що розвиток генеративного ШІ і знайомство все більш широкого кола людей з чат-ботами відкривають горизонти для вдосконалення технологій переконання.

За прогнозами науковців, вже зовсім скоро почнуть з’являтись помічники на базі ШІ, які робитимуть прогнози, а також впливатимуть на прийняття людиною рішень, а також продаватимуть ці наміри в режимі реального часу компаніям, зацікавленим у задовільненні потреб людей ще до того, як вони усвідомлять, що прийняли певне рішення.

Фахівці застерігають стосовно того, що ми перебуваємо на початку надзвичайно прибуткового, однак дуже тривожного ринку цифрових сигналів намірів, які включатимуть купівлю квитків у кінотеатр, та процес голосування на виборах.

Власні прогнози дослідники будують на тому, що вдосконалені помічники на базі ШІ матимуть доступ до великої кількості оведінкових і психологічних даних користувачів, які збиратимуть під час діалогу.

Те, що люди говорять під час розмови, як вони це кажуть, і тип висновків, які можна зробити в режимі реального часу, — це набагато інтимніша інформація, ніж просто записи онлайн-взаємодій, — пояснює науковий співробітник LCFI д-р Якуб Чаудхарі.

До чого йде вдосконалення ШІ моделей

Дослідники прогнозують, що економіка намірів є одним з ключових прагнень під час розвитку технологічної сфери, однак ранні ознаки цієї тенденції можна відслідкувати вже зараз.

Науковці включають у це заклик до "даних, які виражають наміри людини будь-якою мовою, на будь-яку тему і в будь-якому форматі" в повідомленні в блозі OpenAI за 2023 рік, а директор із продуктів Shopify на конференції того самого року говорив про появу чат-ботів, які "явно визначатимуть наміри користувача".

У 2024 році нова платформа розробки "App Intents" від Apple для під'єднання застосунків до Siri містить протоколи для "передбачення дій, які хтось може здійснити в майбутньому" і "пропонування наміру застосунку комусь у майбутньому з використанням наданих розробником прогнозів".

Науковці кажуть, що ці події не обов'язково погані, але потенційно можуть бути руйнівними.