Земля може бути захоплена лиходіями із "Зоряного шляху": про що попереджають учені

Про це пише Daily Star.

У "Зоряному шляху" (Star Trek) лиходійські борги вводили своїм жертвам нанозонди, а потім хірургічним шляхом оснащували їх кібернетичними компонентами, попереджаючи: "Ваша культура пристосується, щоб служити нам. Опір марний". Вони також запозичували технології та знання в інших видів, для свого "колективу", щоб досягти "досконалості".

У Фокус. Технології з'явився свій Telegram-канал. Підписуйтесь, щоб не пропускати найсвіжіші та найзахопливіші новини зі світу науки!

Тепер вчені з Університету Лафборо, Єльського університету та Массачусетського технологічного інституту виклали своє бачення майбутнього людства: вчені вважають, що майбутнє колективного ШІ, яке перегукується з елементами боргів, які вперше з'явилися на екранах у 1989 році.

Команда описала своє бачення виникнення "колективного ШІ", який дозволить системам штучного інтелекту об'єднувати свій індивідуальний досвід та ідеї. У результаті вчені помітили схожість із концепцією та боргами, але наполягають — результат, імовірно, буде позитивним для людей.

За словами керівника дослідження, доктора Андреа Солтоджіо з Університету Лафборо, у реальному житті система з кількох агентів ШІ, кожен з яких здатний навчатися й адаптуватися незалежно, але об'єднаних в одну мережу постійного обміну знаннями та навичками, може бути корисною для людства.

Автори дослідження вважають, що миттєвий обмін знаннями в колективній мережі підрозділу ШІ, здатних постійно навчатися й адаптуватися до нових даних, дадуть змогу в майбутньому швидко реагувати на нові ситуації, проблеми та загрози. Наприклад, це може добре спрацювати в умовах кібербезпеки: коли один підрозділ ШІ виявить загрозу, він зможе швидко поділитися знаннями та ініціювати колективну відповідь. До слова, це схоже на те, як наша імунна система захищає наш організм від зовнішніх загарбників.

На думку доктора Солтоджіо, надалі розвиток ШІ може призвести до розробки роботів для швидкого реагування на стихійні лиха, які будуть швидко адаптуватися. Крім того, в майбутньому можуть бути створені персоналізовані медичні агенти, що поліпшують результати лікування, об'єднуючи передові медичні знання з інформацією про пацієнта.

Водночас команда визнає, що існують і ризики, пов'язані з колективним ШІ — наприклад, ідеться про швидке поширення неетичних і незаконних знань. Але найважливішим аспектом безпеки реальних ботів буде те, що кожен із них підтримуватиме свої власні цілі та незалежність від колективу.

Доктор Солтоджіо вважає, що врешті-решт це може призвести до "демократії агентів ШІ, що значно знижує ризики домінування штучного інтелекту кількома іншими системами."

Їхня робота, що фінансується Агентством перспективних досліджень у сфері оборони, показала, що глобальні зусилля зосереджені на забезпеченні безперервного навчання, щоб агенти ШІ могли розширювати свої знання протягом усього терміну служби. Вчені планують розробити універсальні протоколи й мови, що дають змогу системам обмінюватися знаннями. Зазначимо, що нова технологія відрізняється від уже наявних великих моделей ШІ, таких як ChatGPT, які мають обмежені можливості безперервного навчання та обміну знаннями. У новому дослідженні моделі набувають більшу частину своїх знань під час енергомістких навчальних сесій і не можуть продовжувати навчання за їхніми межами.

Раніше Фокус писав про те, що вчені розкрили таємницю ШІ: у нього немає ніяких "суперздібностей" і "самосвідомості".