OpenAI виявляє ще більше китайських груп, які використовують ChatGPT у зловмисних цілях

6 червня, 10:16

OpenAI спостерігає зростання кількості китайських груп, які використовують її технологію штучного інтелекту для таємних операцій, про що розробник ChatGPT описав у звіті.

Хоча масштаби та тактика, що використовуються цими групами, розширилися, виявлені операції, як правило, були невеликими за масштабом та орієнтованими на обмежену аудиторію, повідомив стартап із Сан-Франциско.

З моменту появи ChatGPT наприкінці 2022 року виникли побоювання щодо потенційних наслідків технології генеративного штучного інтелекту, яка може швидко та легко створювати текст, зображення та аудіо, схожі на людські.

OpenAI регулярно публікує звіти про виявлену на своїй платформі шкідливу активність, таку як створення та налагодження шкідливого програмного забезпечення або генерування фальшивого контенту.

В одному з прикладів OpenAI заборонила облікові записи ChatGPT, які публікували дописи в соціальних мережах на політичні та геополітичні теми, що стосуються Китаю, включаючи критику відеогри, орієнтованої на Тайвань, неправдиві звинувачення проти пакистанського активіста та контент, пов'язаний із закриттям USAID.

У деяких публікаціях також критикувалися масштабні тарифи президента США Дональда Трампа, що призвело до появи X постів, таких як «Тарифи роблять імпортні товари шалено дорогими, але уряд витрачає кошти на допомогу закордонним країнам. Хто має продовжувати їсти?».

В іншому прикладі пов'язані з Китаєм зловмисники використовували штучний інтелект для підтримки різних етапів своїх кібероперацій, включаючи дослідження відкритого коду, модифікацію скриптів, усунення несправностей у конфігураціях системи та розробку інструментів для перебору паролів та автоматизації соціальних мереж.

Третім прикладом, знайденим OpenAI, була операція впливу китайського походження, яка генерувала поляризований контент у соціальних мережах, що підтримував обидві сторони суперечливих тем у політичному дискурсі США, включаючи текст та зображення профілів, створені штучним інтелектом.

Міністерство закордонних справ Китаю не одразу відповіло на запит Reuters прокоментувати висновки OpenAI.

OpenAI закріпила свої позиції як одна з найцінніших приватних компаній світу після оголошення раунду фінансування на суму 40 мільярдів доларів , що оцінює компанію в 300 мільярдів доларів.

Джерело матеріала