Meta подає до суду на додаток для оголення Crush AI

Meta подала до суду на розробника популярного застосунку штучного інтелекту «nudify» під назвою Crush AI, який, як повідомляється, розміщував тисячі реклами на своїх платформах. Окрім позову, Meta заявляє, що вживає нових заходів для боротьби з іншими застосунками, такими як Crush AI.

У позові, поданому в Гонконзі, Meta стверджувала, що Joy Timeline HK, організація, що стоїть за Crush AI, намагалася обійти процес перевірки компанії, щоб розповсюджувати рекламу послуг оголення на основі штучного інтелекту. Meta заявила в блозі, що неодноразово видаляла рекламу цієї організації за порушення її політики, але стверджує, що Joy Timeline HK все одно продовжувала розміщувати додаткову рекламу.

За словами автора розсилки Faked Up Алексіоса Манцарліса, Crush AI, яка використовує генеративний штучний інтелект для створення фальшивих зображень сексуального характеру реальних людей без їхньої згоди, за перші два тижні 2025 року розмістила на платформі Meta понад 8000 рекламних оголошень про свої послуги «роздягання за допомогою штучного інтелекту» . У січневому звіті Манцарліс стверджував, що вебсайти Crush AI отримували приблизно 90% свого трафіку з Facebook або Instagram, і що він повідомив Meta про кілька з цих вебсайтів.

Повідомляється, що Crush AI уникала процедур перевірки реклами Meta, створюючи десятки облікових записів рекламодавців та часто змінюючи доменні імена. За словами Манцарліса, багато облікових записів рекламодавців Crush AI мали назву «Eraser Annyone's Clothes» («Видаляючи одяг») з різними номерами. У якийсь момент Crush AI навіть мала сторінку у Facebook, що рекламувала її послугу.

Facebook та Instagram — далеко не єдині платформи, які стикаються з такими проблемами. Оскільки компанії соціальних мереж, такі як X та Meta, поспішають додати генеративний штучний інтелект до своїх додатків, вони також намагаються пом’якшити те, як інструменти штучного інтелекту можуть зробити їхні платформи небезпечними для користувачів, особливо неповнолітніх.

Дослідники виявили, що у 2024 році кількість посилань на додатки для роздягання зі штучним інтелектом різко зросла на таких платформах, як X та Reddit , а на YouTube мільйони людей, як повідомляється, бачили рекламу таких додатків . У відповідь на цю зростаючу проблему Meta та TikTok заборонили пошук за ключовими словами для додатків для роздягання зі штучним інтелектом , але повністю видалити ці сервіси зі своїх платформ виявилося складним завданням.

У своєму блозі Meta повідомила, що розробила нову технологію для цілеспрямованої ідентифікації реклами послуг з оголення або роздягання за допомогою штучного інтелекту, «навіть якщо сама реклама не містить оголеного тіла». Компанія заявила, що тепер використовує технологію зіставлення, щоб швидше знаходити та видаляти копіювальну рекламу, а також розширила список термінів, фраз та емодзі, які позначаються її системами.

Meta заявила, що також застосовує тактику, яку традиційно використовувала для руйнування мереж зловмисників, до цих нових мереж облікових записів, що розміщують рекламу служб штучного інтелекту, що демонструють оголені зображення. З початку 2025 року, за словами Meta, вона зруйнувала чотири окремі мережі, що просувають ці послуги.

Окрім своїх додатків, компанія заявила, що почне ділитися інформацією про додатки для оголення дітей на основі штучного інтелекту через програму Lantern від Tech Coalition , спільний проєкт Google, Meta, Snap та інших компаній для запобігання сексуальній експлуатації дітей в Інтернеті. Meta стверджує, що з березня надала цій мережі понад 3800 унікальних URL-адрес.

Щодо законодавчої діяльності, Meta заявила, що «продовжуватиме  підтримувати законодавство  , яке надає батькам право контролювати та схвалювати завантаження додатків своїми підлітками». Раніше компанія підтримувала закон США «Про заборону завантаження» і заявила, що зараз працює із законодавцями над його впровадженням.