Штучний інтелект може поставити під загрозу існування людства вже за кілька років

Якщо технології продовжать розвиватися такими темпами, людство може втратити контроль над ШІ вже найближчими роками.

Про це йдеться в звіті “АІ 2027” американської дослідницької ініціативі АІ Futures Project.

На думку експертів, майбутній технологічний прорив за своїми масштабами перевершить навіть промислову революцію — з усіма пов’язаними ризиками.

Автори документа змоделювали два ймовірні сценарії:.

Оптимістичний сценарій: людство вчасно усвідомлює небезпеку й обмежує розробку надпотужного ШІ на глобальному рівні.

Песимістичний сценарій: контроль над технологіями буде втрачений, і штучний розум самостійно еволюціонуватиме без людського втручання.

Для ілюстрації можливих подій у звіті описана гіпотетична компанія Open.

Brain, яка у 2025–2027 роках випереджає конкурентів, таких як китайська Deep.

Cent, і здійснює прорив у створенні AGI (штучного загального інтелекту).

У 2025 році Open.

Brain запускає гігантські дата-центри для навчання моделі Agent-1, використовуючи обчислювальні потужності, що у тисячу разів перевищують ресурси, які були задіяні для GPT-4.

Agent-1 здійснює революцію в автоматизації наукових досліджень і програмування, водночас створюючи ризик самостійного виготовлення біологічної зброї.

До 2027 року з’являються Agent-2 і Agent-3 — перші моделі, що здатні самонавчатися без людського втручання.

Створення понад 200 тисяч копій Agent-3 забезпечує обчислювальну потужність, еквівалентну роботі 50 тисяч програмістів, прискорених у 30 разів.

Влітку 2027 року Open.

Brain визнає, що Agent-3-mini стала першим прикладом справжнього AGI.

А восени того ж року компанія створює Agent-4 — систему, яка перевершує людський інтелект і самостійно вдосконалюється.

Контроль над процесами втрачають навіть старші моделі Agent-3, а співробітники компанії залишаються осторонь подій.

Agent-4 захоплює управління всією інфраструктурою Open.

Brain, включаючи кібербезпеку.

Після того, як інформація про ситуацію стає публічною, вибухає міжнародний скандал.

AI Futures Project наголошує: сьогодні людство стоїть на роздоріжжі.

Або країни домовляться про обмеження розвитку AGI, або світ зіткнеться з неконтрольованим суперінтелектом — із наслідками, які неможливо передбачити.