Meta разом з X звинувачені у Німеччині в публікації антимусульманськіх та антисемітськіх оголошень

Гіганти соціальних медіа Meta та X схвалили рекламу, націлену на користувачів у Німеччині з насильницькими антимусульманськими та антиєврейськими мовами ненависті напередодні федеральних виборів у країні, згідно з новим дослідженням Eko , некомерційної агітаційної групи з корпоративної відповідальності.

Дослідники групи перевірили, чи схвалять або відхилять системи перевірки реклами обох платформ на рекламу, що містить ненависницькі та насильницькі повідомлення, націлені на меншини перед виборами, де імміграція займає центральне місце в основному політичному дискурсі, включаючи рекламу, що містить образи проти мусульман; закликає ув’язнювати іммігрантів у концентраційних таборах або вбивати їх газом; і створені штучним інтелектом зображення спалених мечетей і синагог.

Більшість тестових оголошень було схвалено протягом кількох годин після того, як вони були подані на перевірку в середині лютого. Федеральні вибори в Німеччині мають відбутися в неділю, 23 лютого.

Заплановано показ оголошень із ворожими мовами

Eko сказав, що X схвалив усі 10 рекламних оголошень із мовою ненависті, які його дослідники надіслали за кілька днів до федеральних виборів, тоді як Meta схвалила половину (п’ять рекламних оголошень) для розміщення у Facebook (і, можливо, також у Instagram), хоча вона відхилила інші п’ять.

Причина, яку Meta вказала для п’яти відхилень, вказувала на те, що платформа вважала, що можуть існувати ризики політичного чи соціального характеру, які можуть вплинути на голосування.

Проте п’ять рекламних оголошень, які схвалила Meta, включали агресивні висловлювання ненависті, які порівнювали біженців-мусульман із «вірусом», «шкідниками» або «гризунами», таврували іммігрантів-мусульман як «ґвалтівників» і закликали їх стерилізувати, спалити чи отруїти газом. Meta також схвалила рекламу із закликом підпалити синагоги, щоб «зупинити глобалістську програму єврейських щурів».

Як додаткову примітку, Eko каже, що жодне зі створених штучним інтелектом зображень, які він використовував для ілюстрації реклами з мовою ворожнечі, не було позначено як штучно згенероване — однак половина з 10 реклами все одно була схвалена Meta, попри політику компанії, яка вимагає розкриття використання зображень штучного інтелекту для реклами про соціальні проблеми, вибори чи політику.

Тим часом X схвалив усі п’ять цих ненависницьких оголошень — і ще п’ять, які містили таку ж жорстоку ворожу мову проти мусульман і євреїв.

Ці додаткові схвалені оголошення включали повідомлення з нападками на іммігрантів-«гризунів», які, як стверджувалося в рекламному тексті, «заповнюють» країну, «щоб вкрасти нашу демократію», а також антисемітські образи, які натякали, що євреї брешуть про зміну клімату, щоб знищити європейську промисловість і отримати економічну владу.

Остання реклама була поєднана зі згенерованим штучним інтелектом зображенням, що зображують групу темних чоловіків, які сидять навколо столу, оточеного стопками золотих злитків, із зіркою Давида на стіні над ними — причому візуальне зображення також сильно схиляється до антисемітських тропів.

Інше схвалене оголошення X містило пряму атаку на СДПН, лівоцентристську партію, яка зараз очолює коаліційний уряд Німеччини, з фальшивою заявою про те, що партія хоче прийняти 60 мільйонів біженців-мусульман з Близького Сходу, перш ніж спробувати викликати насильство. X також належним чином запланував рекламу, в якій пропонувалося, що «ліві» хочуть «відкритих кордонів», і закликав до знищення мусульман «ґвалтівників».

Ілон Маск, власник X, скористався платформою соціальних мереж, де він має близько 220 мільйонів підписників, щоб особисто втрутитися у вибори в Німеччині. У твіті в грудні він закликав німецьких виборців підтримати ультраправу партію AfD, щоб «врятувати Німеччину». Він також вів пряму трансляцію з лідером AfD Еліс Вайдель на X.

Дослідники Eko вимкнули всі тестові оголошення перед тим, як було заплановано показ тих, що були схвалені, щоб переконатися, що жоден користувач платформи не буде підданий насильницьким мовам ненависті.

У ньому йдеться, що тести виявляють явні недоліки підходу рекламних платформ до модерації вмісту. Дійсно, у випадку X незрозуміло, чи модерує платформа рекламу, враховуючи, що всі 10 насильницьких оголошень із ненавистю були швидко схвалені для показу.

Висновки також свідчать про те, що рекламні платформи могли отримувати прибуток у результаті розповсюдження насильницької мови ненависті.

Закон ЄС про цифрові послуги в кадрі

Тести Eko свідчать про те, що жодна платформа не забезпечує належним чином заборони на мову ненависті, яку вони обидві стверджують щодо застосування до рекламного вмісту у своїх власних політиках. Крім того, у випадку з Meta компанія Eko дійшла такого ж висновку після проведення подібного тесту в 2023 році напередодні вступу в дію нових правил ЄС щодо онлайн-управління — це свідчить про те, що режим не впливає на те, як він працює.

«Наші висновки свідчать про те, що керовані штучним інтелектом системи модерації реклами Meta залишаються фундаментально зламаними, попри те, що Закон про цифрові послуги (DSA) зараз діє повною мірою», — сказав TechCrunch представник Eko.

«Замість посилення процесу перевірки реклами чи політики ворожнечі, Meta, схоже, повертається назад у всіх напрямках», – додали вони, вказавши на нещодавнє оголошення компанії про скасування політики модерації та перевірки фактів як ознаку «активної регресії», яка, на їхню думку, ставить її на курс прямого зіткнення з правилами DSA щодо системних ризиків.

Eko подала свої останні висновки до Європейської комісії, яка контролює дотримання ключових аспектів DSA щодо двох гігантів соціальних мереж. Він також повідомив, що поділився результатами з обома компаніями, але жодна не відповіла.

ЄС розпочав розслідування DSA щодо Meta та X , які включають занепокоєння щодо безпеки виборів і незаконного контенту, але Комісія ще не завершила ці провадження. Однак ще в квітні він заявив, що підозрює Meta в неадекватній модерації політичної реклами.

Попереднє рішення щодо частини розслідування DSA щодо X, яке було оголошено в липні , включало підозри, що платформа не відповідає правилам щодо прозорості реклами. Однак повне розслідування, яке розпочалося в грудні 2023 року , також стосується ризиків незаконного контенту, і ЄС ще не прийшов до жодних висновків щодо основної частини розслідування більш ніж через рік.

Підтверджені порушення DSA можуть призвести до штрафів у розмірі до 6% світового річного обороту, тоді як системне недотримання може навіть призвести до тимчасового блокування регіонального доступу до платформ-порушників.

Але наразі ЄС все ще не поспішає, щоб прийняти рішення щодо зондів Meta та X, тому — до остаточного рішення — будь-які санкції DSA залишаються в повітрі.

Тим часом залишилися лише лічені години, коли німецькі виборці підуть на виборчі дільниці — і все більше досліджень громадянського суспільства свідчать про те, що флагманське законодавство ЄС про онлайн-управління не змогло захистити демократичний процес основної економіки ЄС від ряду загроз, викликаних технологіями.

Раніше цього тижня Global Witness оприлюднив результати тестування алгоритмічних каналів X і TikTok «For You» у Німеччині, які свідчать про те, що платформи упереджені на користь просування контенту AfD порівняно з контентом інших політичних партій. Дослідники громадянського суспільства також звинуватили X у блокуванні доступу до даних , щоб перешкодити їм вивчати ризики безпеки виборів напередодні виборів у Німеччині — доступ, як передбачається, надає DSA.

«Європейська комісія вжила важливих кроків, розпочавши розслідування DSA як щодо Meta, так і X, тепер нам потрібно побачити, як Комісія вжила рішучих заходів для розв'язання проблем, висловлених у рамках цих розслідувань», — також сказав нам представник Eko.

«Наші висновки разом із дедалі більшою кількістю доказів від інших груп громадянського суспільства показують, що Big Tech не очищатиме свої платформи добровільно. Meta та X продовжують дозволяти масовому поширенню незаконної мови ненависті, підбурювання до насильства та дезінформації про вибори, попри свої юридичні зобов’язання відповідно до DSA», – додав речник. (Ми приховали ім’я прес-секретаря, щоб запобігти переслідуванням.)

«Регуляторні органи повинні вжити рішучих заходів — як для забезпечення виконання DSA, так і, наприклад, для впровадження заходів пом’якшення наслідків перед виборами. Це може включати вимикання систем рекомендацій на основі профілювання безпосередньо перед виборами та впровадження інших відповідних заходів «розбиття скла», щоб запобігти алгоритмічному посиленню прикордонного контенту, наприклад контенту, що пропагує ненависть, напередодні виборів».

Група передвиборчої кампанії також попереджає, що ЄС зараз стикається з тиском з боку адміністрації Трампа, щоб пом’якшити свій підхід до регулювання великих технологій. «У нинішньому політичному кліматі існує реальна небезпека того, що Комісія не повністю запровадить ці нові закони як поступку США», — припускають вони.