Ватикан попереджає про ризики штучного інтелекту: "Містить у собі тінь зла"

У Ватикані закликали до постійного нагляду за штучним інтелектом, попередивши про потенціал "тіні зла" в цій технології, яка пропонує "джерело величезних можливостей, але також і глибоких ризиків". Про це повідомляє NYT.

У новому документі, призначеному для порад католицьким віруючим, Святий престол застерігає, що технології повинні використовуватися для доповнення людського інтелекту, "а не для заміни його багатства". Документ був схвалений Папою Франциском, який неодноразово попереджав, що застосування штучного інтелекту повинно ґрунтуватися на етичних і моральних міркуваннях.

"У всіх сферах, де людина покликана приймати рішення, тут також маячить тінь зла. Моральна оцінка цієї технології повинна враховувати те, як вона спрямовується і використовується", – йдеться у заяві.

За словами преподобного Пола Тіґе, одного з авторів доповіді, документ "є синтезом багатьох існуючих матеріалів, які органічно розвивалися протягом останнього часу", спираючись на минулі заяви і праці Папи Франциска, щоб проаналізувати вплив ШІ на відносини, освіту, війну і роботу. Документ був написаний протягом шести місяців ватиканською командою, яка консультувалася з різними експертами, в тому числі з фахівцями в галузі штучного інтелекту.

За словами отця Тіґе, у статті робиться спроба окреслити "розуміння того, що означає бути людиною, яке в певному сенсі надає форму етичним проблемам".

Автори публікації попереджають про те, що ШІ може зруйнувати довіру, на якій будуються суспільства, через його здатність поширювати дезінформацію.

"Фейкові медіа, створені за допомогою ШІ, можуть поступово підірвати основи суспільства. Це питання потребує ретельного регулювання, оскільки дезінформація - особливо через контрольовані або підконтрольні ШІ ЗМІ - може поширюватися ненавмисно, підживлюючи політичну поляризацію і соціальні заворушення", – зазначається у документі.

"Такий широкомасштабний обман не є тривіальною справою; він завдає удару по суті людства, руйнуючи фундаментальну довіру, на якій будуються суспільства", – додали у публікації.

Там також засуджується "шкідливе почуття ізоляції", яке ШІ може породити, а також "специфічні виклики" для дітей, "потенційно заохочуючи їх розвивати моделі взаємодії, які розглядають людські стосунки як транзакційні, як це було б у випадку з чат-ботом".

У документі висловлюється занепокоєння, що ШІ може бути використаний для просування того, що Папа Франциск назвав "технократичною парадигмою", тобто вірою в те, що світові проблеми можна вирішити лише за допомогою технологічних засобів.

"Технологічні розробки, які не покращують життя для всіх, а натомість створюють або поглиблюють нерівність і конфлікти, не можна назвати справжнім прогресом", – наголошується у заяві, яка цитує послання Франциска до Всесвітнього дня миру 2024 року.

Коли йдеться про працю, в документі сказано, що "мета не повинна полягати в тому, щоб технологічний прогрес дедалі більше замінював людську працю, бо це було б згубно для людства". ШІ також ніколи не повинен "зводити працівників до простих "гвинтиків у машині", оскільки "гідність працівників і важливість зайнятості для економічного добробуту окремих осіб, сімей і суспільств, для гарантії зайнятості і справедливої заробітної плати повинні бути високим пріоритетом для міжнародного співтовариства.

У доповіді також повторюється занепокоєння з приводу використання цієї технології в дистанційно керованій зброї, що призводить до "меншого сприйняття руйнувань" від її застосування і "ще більш холодного і відстороненого підходу до безмірної трагедії війни".

Документ попереджає про "концентрацію влади над основними програмами штучного інтелекту в руках кількох потужних компаній".

Папа Римський все частіше висловлює занепокоєння з приводу ШІ. У зверненні до політичних, економічних і бізнес-лідерів на Всесвітньому економічному форумі в Давосі, Швейцарія, минулого тижня, Франциск написав, що ШІ викликає "велике занепокоєння з приводу його впливу на роль людства". А на зустрічі Групи 7 в Італії минулого року він сказав світовим лідерам, що ШІ "являє собою справжню когнітивно-індустріальну революцію, яка сприятиме створенню нової соціальної системи, що характеризується складними епохальними перетвореннями".

Автоматизація змінює ринок праці. Але як це змінює наше власне життя? Чи готові ми до світу, де машини замість нас виконують не лише рутинні завдання, а й взагалі більшу частину нашої роботи? Питання, яке ми повинні ставити перед собою вже не в тому, чи потрібен нам ШІ, а в тому, як нам залишитися потрібними самим собі та світові. Чим зайняти свої руки і як не втратити сенсу буття.

У статті "Що робити, поки ШІ працює?" Катерина Щоткіна розбирається, як адаптуватися до дивного нового світу, в якому думати вміють не лише люди.