Алгоритми ШІ змусять людей слідувати заданим напрямкам, обмежуючи їхню свободу - ЗМІ

ШІ впливатиме на наші вибори в покупках, формуючи споживацькі звички.

Експерти припускають, що вже розробляються інструменти ШІ, які дозволяють виявляти, робити висновки, розуміти, прогнозувати і навіть маніпулювати людськими планами та цілями.

Про це пишуть TechXplore.

Дослідники з Кембриджського центру Леверхалма для вивчення майбутнього інтелекту (LCFI) вважають, що швидкий розвиток генеративного ШІ і зростаюча популярність чат-ботів відкривають нові можливості для технологій маніпулювання переконаннями. Про це повідомляє TechXplore. Подібні натяки вже звучали у заявах технологічних гігантів.

У найближчому майбутньому можуть з'явитися помічники на основі ШІ, здатні прогнозувати і впливати на наше ухвалення рішень на ранніх етапах, а також продавати ці "наміри" компаніям у реальному часі, ще до того, як ми усвідомимо, що прийняли рішення. Таку ситуацію прогнозують експерти з етики ШІ з Кембриджського університету, які називають це "економікою намірів". Вони вважають, що людство перебуває на початку створення нового, вигідного, але тривожного ринку цифрових сигналів намірів — від купівлі квитків до голосування за кандидатів.

"Антропоморфні" агенти ШІ, від чат-ботів-помічників до цифрових репетиторів і подруг, матимуть доступ до величезної кількості інтимних психологічних і поведінкових даних, часто отриманих через неформальний мовний діалог. Це дозволить таким помічникам підлаштовуватися під нас, наслідуючи наші особистості та прогнозуючи бажані реакції, тим самим створюючи рівні довіри і взаєморозуміння, що дозволять проводити соціальну маніпуляцію в промислових масштабах.

"Величезні ресурси витрачаються на впровадження помічників на основі ШІ в усі сфери життя, що ставить питання, чиїм інтересам служитимуть ці помічники", — зазначив д-р Якуб Чаудхарі, науковий співробітник LCFI.

"Те, що люди говорять, як вони це кажуть, і тип висновків, які можна зробити в реальному часі, є набагато інтимнішою інформацією, ніж просто онлайн-взаємодії", — додав він.

Д-р Джонні Пенн, історик технологій з Кембриджського інституту LCFI, пояснив, що протягом десятиліть основною валютою Інтернету була увага. Поділитися своєю увагою через соціальні мережі стало рушійною силою онлайн-економіки.

"Якщо не регулювати, економіка намірів перетворить ваші мотиви на нову валюту, що стане золотими копальнями для тих, хто маніпулює і продає людські наміри", — сказав він.

Пенн і Чаудхарі стверджують, що економіка намірів є частиною економіки уваги, де відслідковується, як увага користувача і стиль спілкування пов'язані з його вибором.

У своїй статті для Harvard Data Science Review вони пишуть, що великі мовні моделі (LLM) можуть визначати темп мовлення, політичні погляди, словниковий запас, вік, стать, історію онлайн-відвідувань і навіть уподобання щодо лестощів за мінімальні витрати.

Цей збір даних буде пов'язаний з посередницькими мережами, щоб збільшити ймовірність досягнення певної мети, наприклад, продати квиток у кіно.

Пенн і Чаудхарі відзначають, що це може включати управління розмовами для рекламодавців, підприємств і політичних організацій.

Незважаючи на те, що дослідники підкреслюють, що економіка намірів ще перебуває на стадії розвитку, вони відзначають ранні ознаки цієї тенденції в технологічній галузі. Серед них — заклики до збору даних про наміри людини в будь-якій мові і формі, а також нові інструменти для визначення намірів користувачів, такі як платформа "App Intents" від Apple, що дозволяє передбачати майбутні дії користувачів.

"Моделі ШІ, такі як CICERO від Meta, вже досягли людського рівня в грі 'Дипломатія', яка базується на умовиводах і прогнозуванні намірів", — сказав Чаудхарі.

Хоча ці технології не обов'язково погані, дослідники попереджають про їхній потенційно руйнівний вплив.

Нагадаємо, блогери виявили, що телефонні дзвінки з ChatGPT можуть загрожувати конфіденційності користувачів, оскільки існує ризик витоку особистих даних під час розмови.