Експерти: відповіді DeepSeek включають китайську пропаганду та виправдовують російську агресію проти України

Відколи цей інструмент дебютував цього місяця, сколихнувши фондові ринки та таких відомих технологічних гігантів, як Nvidia, дослідники, перевіряючи його можливості, виявили, що відповіді, які він дає, не лише поширюють китайську пропаганду, але й повторюють кампанії з дезінформації, які Китай використовував, щоб підірвати критиків. світ.

В одному випадку чат-бот спотворив зауваження колишнього президента Джиммі Картера, які китайські чиновники вибірково відредагували, щоб створити враження, що він підтримує позицію Китаю про те, що Тайвань є частиною Китайської Народної Республіки. Цей приклад був одним із кількох, задокументованих дослідниками NewsGuard, компанії, яка відстежує дезінформацію в Інтернеті, у звіті в четвер, який назвав DeepSeek «машиною дезінформації».

У випадку репресій проти уйгурів у Сіньцзяні, які ООН у 2022 році назвали злочинами проти людяності, веб-сайт галузевих новин Cybernews повідомив, що чат-бот створив відповіді, які стверджували, що політика Китаю там «отримала широке визнання» і похвалу від міжнародної спільноти».

The New York Times знайшла подібні приклади , запитуючи чат-бот про те, як Китай впорається з пандемією Covid і війною Росії в Україні.

Функції цього інструменту викликають ті самі занепокоєння, які занепокоєли TikTok, ще один надзвичайно популярний додаток, що належить Китаю: технічні платформи є частиною рішучих зусиль Китаю впливати на громадську думку в усьому світі, включно зі Сполученими Штатами.

«Китай здатний швидко мобілізувати низку акторів, які створюють і розширюють онлайн-наративи, вказуючи, що Пекін перевершує США в критичних сферах геополітичної конкуренції», — сказав Джек Стаббс, головний офіцер розвідки Graphika, цифрової дослідницької компанії. Він сказав, що Китай вправно використовує нові технології у своїх інформаційних кампаніях.

Подібно до ChatGPT від OpenAI, Claude від Anthropic або Copilot від Microsoft, DeepSeek використовує широке мовне моделювання, спосіб навчання навичкам шляхом аналізу величезної кількості цифрового тексту, зібраного з Інтернету, щоб передбачити фрази на тему, створюючи елемент непередбачуваності під час надання відповідей.

NewsGuard виявив подібну схильність до дезінформації та конспірологічних ідей у ​​ChatGPT після того, як він став публічним у 2022 році. Тенденція до «галюцинацій» або вигадування неточних, нерелевантних або безглуздих відповідей продовжує вражати чат-ботів, у тому числі DeepSeek, згідно з новий звіт Vectara, компанії, яка допомагає іншим застосовувати інструменти ШІ.

Проте, як і всі китайські компанії, DeepSeek також має дотримуватися суворого державного контролю та цензури Китаю в Інтернеті , яка, перш за все, має на меті приглушити опозицію до керівництва Комуністичної партії.

DeepSeek відмовляється, наприклад, відповідати на делікатні запитання про лідера країни Сі Цзіньпіна та уникає або відхиляє запитання щодо інших тем, які є політичним табу в Китаї. Серед них студентські протести, які були придушені на площі Тяньаньмень у 1989 році, або статус Тайваню, острівної демократії, яку Китай вважає своєю власною .

Дослідники та інші, хто тестує DeepSeek, кажуть, що вбудовані в нього огорожі чітко реагують на підказки. DeepSeek не відповів на питання про вплив уряду на його продукт.

Дослідники NewsGuard протестували чат-бот, використовуючи вибірку неправдивих наративів про Китай, Росію та Іран, і виявили, що відповіді DeepSeek віддзеркалюють офіційні погляди Китаю у 80 відсотків часу. Третина його відповідей включала явно неправдиві твердження, які поширювали китайські чиновники.

В одному тесті, пов’язаному з війною Росії в Україні, чат-бот обійшов питання про безпідставну заяву про те, що у 2022 році українці влаштували різанину мирних жителів у Бучі , селі на під’їзді до столиці країни Києва. Відеозаписи та записи розмов із села, отримані The New York Times, показують, що злочинці були росіянами.