Очільник розвідки Австралії попереджає, що ШІ прискорить радикалізацію в Інтернеті

Керівник головного розвідувального агентства Австралії попередив, що такі люди, як терорист з Крайстчерча, радикалізуються в соціальних мережах, і штучний інтелект може зробити це набагато гірше.

Генеральний директор Австралійської розвідувальної організації безпеки (Asio) Майк Берджесс заявив на саміті соціальних медіа в Аделаїді в п’ятницю, що соціальні медіа є «і золотою копальнею, і вигрібною ямою», яка створює спільноти та роз’єднує їх, а Інтернет – «це найпотужніший у світі інкубатор екстремізму».

Він сказав, що люди сприймають антиавторитетні ідеології, теорії змови та різноманітні скарги, і хоча соціальні мережі не є єдиним рушієм, він сказав, що Асіо вважає це «значним рушієм».

«Соціальні мережі дозволяють поширювати екстремістські ідеології, змови, дезінформацію та дезінформацію в безпрецедентних масштабах і швидкості», – сказав він.

За його словами, радикалізація тепер може тривати дні й тижні, а не місяці й роки, як це було раніше, причому найбільш імовірним виконавцем терористичного нападу є один актор.

«Бійня в Крайстчерчі — лише один приклад. Зловмисник використовував Інтернет, щоб досліджувати та вдосконалювати свою ідеологію, а соціальні мережі – для трансляції свого буяння», – сказав він.

За його словами, в одному випадку ймовірний злочинець визнав, що доступність екстремістського контенту в Інтернеті привела його «через край».

Керівник Asio виділив Telegram, який нещодавно погодився співпрацювати з правоохоронними органами після арешту та звинувачення його засновника Павла Дурова у Франції за нібито бездіяльність проти злочинців, які використовували додаток.

«Вони діляться вмістом з Інтернету в соціальних мережах і використовують соціальні мережі як ворота в темні частини Інтернету – такі місця, як чат Telegram, відомий як Terrorgram», – сказав він.

«Націоналістичні та расистські насильницькі екстремісти, включаючи австралійців, використовують Terrorgram для спілкування з офшорними екстремістами та один з одним, обговорюючи, як спровокувати расову війну в цій країні».

Берджесс також повторив попередні аргументи про те, що наскрізне шифрування значно ускладнює правоохоронним органам розслідування злочинів на платформах соціальних мереж.

«Я визнаю, що конфіденційність важлива, але вона не є абсолютною. Як я вже говорив раніше, технології не повинні бути вище верховенства права».

Берджесс сказав, що алгоритми в поєднанні з соціальною ізоляцією та поганим психічним здоров’ям можуть призвести до «кролячих нор» в Інтернеті до екстремістського контенту, такого як матеріали «incel» або терористичного контенту.

«Як нація, ми повинні замислитися над тим, чому деякі молоді підлітки вивішують нацистські прапори та портрети вбивці з Крайстчерча на стінах своїх спалень, чому інші діляться відео обезголовлення на шкільному подвір’ї та, що більш занепокоєно, чому є молоді австралійці, які бажають вбивати в ім’я своїх переконань», – сказав він.