ШІ під прицілом РФ. Російська мережа "Правда" і глобальна дезінформація

Чи знали ви, що Росія умисно тренує моделі штучного інтелекту, такі як Chat GPT, на своїй пропаганді?

Я здогадувалась, але нещодавно дізналась деталі. Виявляється, з 2022 року Росія розвинула глобальну мережу сайтів різними мовами, так звану мережу "Правда" (Pravda network), більшість з яких мають у своїй інтернет-адресі слово "pravda".

Цих сайтів понад 150 (40 з них таргетують Україну), вони адмініструються з окупованого Криму. Всі вони не продукують жодного оригінального контенту, а містять репости різними мовами новин з російських чи проросійських телеграм-каналів, російських державних "медіа" та інших пов'язаних з Кремлем помийок — зокрема локальних, в інших країнах. Головні теми новин — Україна, занепад Заходу, НАТО та інші типові пропагандистські наративи Росії. Причому оновлюються ці сайти з вражаючою швидкістю. Експерти підрахували, що лише за 2024 рік сайти мережі "Правда" поширили 3,6 мільйона статей. Водночас аудиторія цих сайтів незначна, тому виникає питання — для кого російська мережа продукує цю нереальну кількість контенту?

Важливо Квінтесенція лженауки: ШІ помиляється з відповідями у 60% випадків, з'ясували вчені

Дослідники кількох організацій, які займаються вивченням російських інформаційних операцій — NewsGuard, Viginum, DFRLab та American Sunlight Project — дійшли висновку, що метою мережі "Правда" є тренування вебскреперів, великих мовних моделей та генеративного штучного інтелекту. Простими словами, вся ця величезна кількість російської пропаганди різними мовами твориться і поширюється для того, щоб популярні системи ШІ, такі як Chat GPT, Claude, Perplexity, Copilot, вчилися на цій (дез)інформації та видавали її у своїх результатах. Дослідження News Guard на прикладі 10 найбільших ШІ компаній, яким "згодували" промпти із 15 наративами російської пропаганди, показало, що у третині випадків чат-боти підтвердили цей контент і посилалися на мережу "Правди" як на достовірне джерело.

Сайти мережі "Правда" також дедалі частіше випливають при пошуку в гуглі. На них посилаються багато сторінок у Вікіпедії. Таким чином, завдяки їм та ШІ, яким багато людей довіряє у пошуку інформації, наративи російської пропаганди "відмиваються" і потрапляють в мейнстримне інформаційне поле.

Які висновки?

1. Бути надзвичайно уважними та не довіряти інформації, яку видає ШІ.
2. Пам'ятати, що Гугл та Вікіпедія також легко піддаються російським інформаційним впливам.
3. Українцям — мати на увазі, що сайти, які починаються з uanews, topnews — це частина російської пропагандистської мережі "Правда", відписати себе та родичів від їхніх телеграм-каналів.

Автор висловлює особисту думку, яка може не збігатися із позицією редакції. Відповідальність за опубліковані дані в рубриці "Думки" несе автор.

Джерело

Важливо День народження Лесі Українки: ШІ показав сучасні образи поетеси (фото)