Папа Лев XIV назвав головну технологічну загрозу для людства

Ватикан і штучний інтелект

Папа Лев XIV, звертаючись раніше до колегії кардиналів, пояснив, що обрав своє папське ім'я, надихнувшись діяльністю Лева XIII, який відстоював права фабричних робітників у так звану Позолочену добу – період з кінця 1870-х до кінця 1890-х років, який був часом швидких економічних змін та крайньої нерівності, коли промислові барони здійснювали безжальну експлуатацію. Лев XIII, відомий як "Папа Робітників", систематично протистояв соціальним наслідкам індустріальної революції. Його енцикліка 1891 року "Rerum Novarum" заклала основи сучасного католицького соціального вчення, підтримавши вимоги до трудових спілок, гідної заробітної плати та безпечних умов праці, одночасно підтверджуючи право на приватну власність, повідомляє 24 Канал з посиланням на The Wall Street Journal.

Понтифік проводить паралелі між тією епохою та нинішньою промисловою революцією у сфері штучного інтелекту, яка також кидає виклик людській гідності, справедливості та праці. Він, будучи більш технічно обізнаним, ніж його попередник Франциск, так само скептично ставиться до нерегульованого ШІ та продовжує його справу. Кардинал Джузеппе Версальді, який давно знає Лева XIV, зазначив, що новий Папа прагне негайного вирішення цієї проблеми науковим і політичним світом, щоб науковий прогрес не завдавав шкоди тим, хто підкоряється його владі.

Протягом останнього десятиліття впливові керівники компаній Кремнієвої долини, включаючи Google, Microsoft, Cisco, Meta, IBM, Anthropic, Cohere та Palantir, відвідували Ватикан, щоб сформувати його погляди на нові технології та, відповідно, вплинути на уряди та політиків. Вони сподівалися поділитися перевагами нових технологій, заручитися моральним авторитетом церкви та скерувати її вплив. Однак, попри дружній діалог, погляди обох сторін лише частково збігаються. Ватикан наполягає на укладенні юридично зобов'язуючого міжнародного договору щодо ШІ, чого більшість технічних директорів прагнуть уникнути, віддаючи перевагу добровільним етичним настановам.

Папа Франциск, який спочатку майже не вмів користуватися комп'ютером, з часом висловлював дедалі більшу стурбованість щодо потенційних небезпек ШІ для людства. Він намагався бути провідним світовим голосом у цій сфері:

• У 2020 році були опубліковані "Римські заклики до етики штучного інтелекту", розроблені за участі архієпископа Вінченцо Пальї та президента Microsoft Бреда Сміта. Ця ініціатива зобов'язує розробників ШІ не порушувати конфіденційність чи права людини, не посилювати дискримінацію та діяти відповідально. Хоча IBM та Cisco є підписантами, Google та OpenAI поки що не приєдналися.
• А вже у 2023 році вийшов посібник "Етика в епоху проривних технологій: Оперативна дорожня карта", покликаний об'єднати технологічну індустрію під спільними правилами та цінностями штучного інтелекту, машинного навчання, шифрування, відстеження тощо.
• У 2023 році Папа Франциск також застеріг від "технологічної диктатури" й закликав уряди розробити міжнародний договір для регулювання ШІ.
• На саміті G-7 у 2024 році він назвав ШІ "захоплюючим і жахливим", зауваживши, що людство зіткнеться з безперспективним майбутнім, якщо "вибір машин" замінить рішення людей щодо їхнього життя.
• У січні цього року Ватикан у документі щодо ШІ попередив, що невелика кількість компаній може здобути багатство та владу за рахунок багатьох, а діти ризикують вирости в дегуманізованому світі з чат-ботами як їхніми провідниками.
• Загрози ШІ також були важливою темою обговорення серед кардиналів під час обрання нового понтифіка.

Сучасні виклики та майбутні кроки

Цього тижня Ватикан проводить дводенну міжнародну конференцію з питань ШІ, етики та корпоративного управління в Апостольському палаці. Очікується, що Папа Лев XIV передасть учасникам конференції письмове послання. Президент Microsoft Бред Сміт має зустрітися з ватиканськими чиновниками цього місяця, а Google веде переговори щодо можливої зустрічі з новим понтифіком. Кардинал Версальді підкреслює, що ці інструменти не слід демонізувати, але вони потребують регулювання. Він додав, що самі розробники технології не можуть бути її регуляторами – необхідна вища влада для контролю.