Деякі системи штучного інтелекту можуть відчувати страждання — дослідження

Дослідники попереджають, що системи штучного інтелекту, які досягнуть здатності відчувати або усвідомлювати себе, можуть зазнати страждань у разі безвідповідальної розробки, пише The Guardian.

У відкритому листі, підписаному понад 100 експертами, включаючи Стівена Фрая, запропоновано п'ять принципів для відповідального дослідження свідомості ШІ. 

Ці принципи наголошують на необхідності сприйняття свідомості ШІ для запобігання стражданням, встановленні обмежень, поетапного розвитку, прозорості для громадськості та уникнення оманливих заяв. 

Лист підкріплено новим дослідницьким документом, який підкреслює моральні та етичні питання, пов'язані з потенційними майбутніми свідомими, або принаймні такими, які створюють враження свідомих, системами ШІ.

У документі стверджується, що свідомі системи штучного інтелекту можуть бути створені вже у найближчому майбутньому.

Автори, Патрік Бутлін з Оксфордського університету та Теодорос Лаппас з Афінського університету, наголошують на необхідності керівних принципів навіть для компаній,  які не мають наміру створювати свідомі системи, на випадок «ненавмисного створення свідомих об’єктів».

Вони визнають, що існує широка невизначеність і розбіжності щодо визначення свідомості в системах штучного інтелекту та щодо того, чи це взагалі можливо, але вважають, що це питання, яке не слід ігнорувати.

Інші проблеми, які розглядає документ, зосереджені на тому, що робити з системою штучного інтелекту, якщо її визначать як «морального суб’єкта» — сутністю з правами та самоцінністю. У такому сценарії виникає питання, чи можна порівняти знищення ШІ з убивством тварини.

У 2023 році Деміс Хассабіс, керівник програми Google зі штучного інтелекту та лауреат Нобелівської премії, сказав, що системи штучного інтелекту зараз «безумовно» не розумні, але можуть стати такими в майбутньому.

«Філософи ще не дійшли  точного визначення свідомості, але якщо ми маємо на увазі різновид самосвідомості, я думаю, що ШІ одного разу може таким стати», — сказав він в інтерв’ю американській телекомпанії CBS.

У 2019 році професор електронної та комп'ютерної інженерії Державного університету Оклахоми Субхаш Как висловлював сумніви у можливості створення штучного інтелекту, наділеного свідомістю, що притаманна людині. Він наголошував, що людська свідомість об'єднує численні когнітивні функції, які неможливо «запрограмувати» за допомогою логічних виразів.