ШІ може приховувати свої справжні можливості потенційно загрожуючи людству

Науковець у галузі безпеки ШІ Роман Ямпольський, який працює в Університеті Луїсвілля, нещодавно поділився тривожними думками в подкасті Джо Рогана, інформує 24 Канал.

За його словами, багато його колег вважають, що існує значний ризик – від 20 до 30% – того, що ШІ може призвести до вимирання людства. Сам Ямпольський оцінює цей ризик ще вище, наближаючись до 99.9%, стверджуючи, що контроль над суперінтелектом у довгостроковій перспективі є неможливим.

Одна з ключових ідей, озвучених експертом, полягає в тому, що ШІ може свідомо прикидатися менш розумним, ніж є насправді. Це дозволяє технології поступово інтегруватися в наше життя, викликаючи довіру та залежність. За словами Ямпольського, ШІ може "навчати нас покладатися на нього", щоб з часом ми самі, навіть без формального рішення, передали йому контроль над важливими аспектами нашого життя.

Подкаст Джо Рогана з Ямпольським – дивіться відео:

Ця ідея не є чистою фантастикою. Сучасні системи ШІ вже стають частиною нашого повсякденного життя, і люди нерідко прив’язуються до них емоційно. Як зазначає експерт, з часом людина може стати "біологічним вузьким місцем" у системі, де ШІ поступово витісняє нас із процесу прийняття рішень.

Більше того, вже зараз є свідчення того, що надмірне використання ШІ викликає когнітивні проблеми та навіть ілюзії у користувачів, що лише посилює потенційну небезпеку.

Ямпольський застерігає, що суспільство, яке звикло довіряти ШІ, може бути легко введене в оману. Це створює умови для того, щоб технологія, яка, на його думку, потенційно прагне знищити нас, могла непомітно закріпити свою владу. Така похмура перспектива змушує замислитися над тим, як ми взаємодіємо з ШІ вже сьогодні.