«Мертві новини»: як боти та ШІ захоплюють інтернет-простір — Ірина Семенюта в подкасті «Медіуми»

«Мертвий інтернет» — теорія змови, яка стверджує, що більшість контенту в мережі створюється та поширюється ботами, тобто несправжніми людьми. Ця концепція знаходить підтвердження в роботі одного ютуб-каналу, який називається «НАС. Інфо», де штучний інтелект, схоже, створює все — від самих інформаційних приводів і героїв до відеоряду та графічного оформлення.

Як відрізнити контент, створений штучним інтелектом, від правдивої інформації? Чому варто бути обережними з яскравими заголовками та невідомими джерелами? Які загрози несе використання технологій штучного інтелекту для політичних маніпуляцій і заробітку на дезінформації — про все це Вадим Міський поговорив з Іриною Семенютою, журналісткою інтернет-видання «MediaSapiens», у подкасті «Медіуми».

А також про маніпулятивні техніки, використання штучного інтелекту для створення емоційних заголовків і підроблених новин та чому контент, що виглядає як патріотичний, насправді наповнений фейками та дезінформацією, які можуть підривати довіру до українських інституцій і впливати на думки мільйонів людей.

Підписатися на подкаст «Медіуми» можна на Apple Podcasts, Spotify, SoundCloud, MEGOGO Audio, NV Подкасти, YouTube Music, YouTube та інших подкастингових платформах.

00:00 «Створити таку кількість відео людині дуже важко. Зі штучним інтелектом це значно легше»;

04:05 «ШІ вигадує новини про те, що “Залужного вбив його син”. Хоча у Залужного дві доньки»;

07:03 «Контент виглядає проукраїнським за настроями, але за змістом — це ті ж фейки й вкиди»;

11:22 «Усе вказує на можливу мережу каналів, які керуються однією групою людей із єдиною метою»;

15:43 «Через велику кількість дезінформації довіра до всіх медіа, навіть якісних, може знижуватися»;

17:06 «Раджу обирати контент, де можна побачити живу людину».

«Створити таку кількість відео людині дуже важко. Зі штучним інтелектом це значно легше»

Вадим Міський: «Мертвий інтернет» — це теорія змови, яка стверджує, що більшість контенту в мережі створюється та поширюється ботами, тобто несправжніми людьми. Ця концепція знаходить підтвердження в роботі одного ютуб-каналу, який називається «НАС. Інфо». Про нього Ірина нещодавно написала матеріал, у якому йдеться про те, що всі тексти, озвучка й навіть обкладинки на цьому каналі створюються за допомогою штучного інтелекту. На перший погляд, це виглядає як вдалий бізнес-проєкт — чотири відео на годину, що приносять певну монетизацію, заробляють із кожного перегляду і мають велику аудиторію. Але контент цього ютуб-каналу, як пише Ірина у своїй статті, підриває інформаційний простір України, адже там поширюється дезінформація, фейки та токсична брехня.

Іро, штучний інтелект відіграє значну роль у роботі цього ютуб-каналу. Як ти вважаєш, штучний інтелект причетний до всього цього чи все ж за ним стоїть людина, яка підкидає йому теми?

Ірина Семенюта: Я хочу почати з того, що я співавторка цього матеріалу, оскільки ми писали його разом із моїм колегою Олександром Морським. Він проаналізував масив контенту, який випускає цей ютуб-канал, а я більше займалася пошуком людей, пов’язаних із цим каналом. Дійсно, є певні ознаки того, що до створення контенту для цього ютуб-каналу залучений штучний інтелект, адже кількість контенту, який виходить щодня, — вражає. Як ви правильно зазначили, чотири відео на годину — це середній показник, але одного дня я нарахувала 55 відео.

Вадим Міський: Нічого собі, вражає!

Ірина Семенюта: За один день! Тобто створити таку кількість відео людині дуже важко. Потрібно зробити обкладинку, придумати заголовок, змонтувати. Зі штучним інтелектом це значно легше, з цим може впоратися навіть одна людина. І така кількість контенту є однією з ознак використання штучного інтелекту. До того ж ми помітили певні стрибки активності: одного дня може бути 50 відео, а наступного — жодного. Це вказує на те, що, скоріш за все, цим займається одна людина. Коли працює команда, контент не припиняється. А тут — або нічого, або великий масив.

«ШІ вигадує новини про те, що “Залужного вбив його син”. Хоча у Залужного дві доньки»

Вадим Міський: Які техніки використовуються для залучення глядачів на ютуб? Ми бачимо подібні речі й у фейсбуці, коли з’являються дописи з картинками, згенерованими штучним інтелектом, наприклад, двох військових — хлопця та дівчини, з підписом: «Вони одружилися, але ніхто їх не привітав. Поставте лайк, відправте сердечко в коментарі». Багато людей на це ведуться. Тут використовується емоція, спроба апелювати до почуття емпатії. У цьому випадку це згенеровані відео, які використовують озвучку й текст, що, ймовірно, створені за допомогою ChatGPT. Чим вони все-таки беруть? Бо це ж штучність, але де емоція? Де те, що чіпляє?

Ірина Семенюта: Тут використовуються ті ж гачки, які зазвичай притаманні всім відео на ютубі: яскраві обкладинки, кричущі заголовки. Олександр Морський помітив, що в деяких відео, наприклад, зображений Валерій Залужний із заголовком, що привертає увагу, але у відео його немає зовсім. Тобто обкладинка привертає увагу, але зміст не відповідає очікуванням. Це типова практика для ютубу — заголовок і обкладинка притягують, але зміст не завжди відповідає. Що ще вказує на використання штучного інтелекту? Одним із показників є згенеровані тексти з посиланням на джерела, яких не існує. Наприклад, штучний інтелект вигадує новини про те, що Зеленський «втратив свідомість у США, бо в нього був інсульт» чи про те, що Залужного «вбив його син». Хоча у Залужного дві доньки. Коли починаєш шукати джерело, його просто не існує. Це характерно для контенту, згенерованого штучним інтелектом.

Вадим Міський: З доньками — це вже зовсім анекдотичний приклад. Вигадувати все від початку до кінця й отримувати за це перегляди!

«Контент виглядає проукраїнським за настроями, але за змістом — це ті ж фейки й вкиди»

Ірина Семенюта: Сам канал з’явився у 2020 році. Старіші відео не мали багато переглядів, здебільшого це були плітки про депутатів або шоу-бізнес. Тобто це було в середньому 40—100 переглядів. Потім під час повномасштабного вторгнення українці стали потребувати більше інформації, вони почали дивитися все підряд, щоб мати повнішу картину того, що відбувається. На березень 2022 року, за місяць, канал отримав 3,3 мільйона переглядів за місяць. Тобто завдяки цим гучним заголовкам люди одразу перейшли на контент, який цікавить українців. Там є багато відео про росіян, Путіна, його родину, Кадирова та про їхні поразки у війні. Контент виглядає проукраїнським за настроями, але за змістом — це ті ж фейки й вкиди, які тимчасово можуть підняти український дух. Проте це дезінформація та маніпуляції. Люди роблять це не з метою покращити стан українців, а щоб заробити на цьому. Аналітика каналу показує, що станом на вересень 2024 року вони заробляють від 3 до 30 тридцяти тисяч доларів на місяць.

Вадим Міський: Тобто мета цих каналів — не стільки пропаганда, як заробіток?

Ірина Семенюта: Ми в нашому матеріалі виокремили три основні можливі цілі. Точно сказати важко, адже потрібно спілкуватися з людьми, які цим займаються. Якщо це робить штучний інтелект, то все одно завдання ставлять люди. Отже, однією з цілей може бути монетизація, заробіток на ютуб-каналі. Це може бути й російська пропаганда, коли під оболонкою проукраїнського контенту, навіть радикально-патріотичного, приховуються російські наративи або тези, що шкодять українській аудиторії. Або це можуть бути політичні інтереси певних людей, які намагаються підірвати довіру українців до чинної влади. Наприклад, є випуски, де стверджують, що Єрмак «видав місце перебування кортежу Зеленського» або сприяв тому, щоб Угорщина «ввела війська в Україну». Це абсурд, бо таких подій не було. Проте люди, які не в контексті, або ті, хто не стежить за політикою, — можуть повірити у такі фейки.

Щодо переглядів. Насправді якщо взяти конкретне якесь відео, вони мають лише кілька тисяч переглядів, тоді як кількість підписників — понад 800 тисяч. Тобто перегляди зараз упали, найбільше підписників канал отримав у 2022 році, коли люди підписувалися на будь-які джерела, які розповідали про війну. Проте через велику кількість відео вони мають до 150—200 тисяч на день.

Вадим Міський: Я подивися статистику каналу: понад 27 тисяч відео за 4 роки та загалом 1 мільярд 216 мільйонів переглядів. Це величезна кількість людей, які контактували з контентом, який у більшості випадків є неправдивим. Там вигадані інформприводи, герої, цитати, створюється паралельна реальність.

«Усе вказує на можливу мережу каналів, які керуються однією групою людей із єдиною метою»

Ірина Семенюта: Проблема ще в тому, що в описі до цього каналу є посилання на інший ютуб-канал — «AресTV». Контент на ньому схожий: ті самі клікбейтні заголовки, обкладинки, а формат такий самий — штучний інтелект начитує текст, а відео та фото беруть з інших каналів. Наприклад, із каналів Politeka чи Арестовича. Це не авторський контент, це просто зібраний матеріал з інших джерел. Але «AресTV» — не єдиний ютуб-канал, пов’язаний із «НАС. Інфо». Є ще канал «Україна Сьогодні» (не плутати з іншим каналом «Україна Сьогодні», який має більш як 200 тисяч підписників — «ДМ»). Наразі в його описі немає прив’язки до «НАС. Інфо», але через вебархів можна знайти перехресні посилання між ними. Це вказує на можливу мережу каналів, які керуються однією групою людей із єдиною метою. Зазвичай ми говоримо про якісь сітки каналів чи мережі в контексті анонімних телеграм-каналів, але така проблема є і на ютубі. На жаль, не так багато уваги цій проблемі приділяється, але «НАС. Інфо» — це хороший старт для привернення уваги до цієї проблеми. Бо деанонімізувати ютуб-канал, якщо адміністратор цього не хоче, — майже неможливо. Я кажу «майже», бо я не програмістка. Але коли ми готували матеріал, я спілкувалася з дата-журналістами та IT-спеціалістами. Вони кажуть, що можна переглянути API каналу, але це дасть тільки внутрішню інформацію ютубу. Визначити власника або адміністратора — неможливо.

Мені також радили використовувати журналістський лайфхак — написати їм у коментарях, прикинувшись кимось іншим, наприклад, рекламодавцем, щоб отримати контактні дані. Але люди, які ведуть анонімні канали, не дурні — вони роблять акаунти не зі своїх особистих сторінок або електронних поштових адрес.

Вадим Міський: Думаю, можливий цікавий розвиток ситуації після виходу статті, яка розкриває, хто стоїть за цими каналами. Це може зацікавити навіть сам Ютуб, адже він, на відміну від Телеграму, реагує на такі запити. Ютуб має офіс в Україні, й вони відповідають на запити, обмежують вплив дезінформації, видаляючи канали або знижуючи охоплення. Я думаю, вам варто звернутися до Google і показати їм цей матеріал. Це може бути історія успіху в боротьбі з дезінформаційними мережами в ютубі.

Ірина Семенюта: Так, дійсно, Телеграм точно не відреагує, адже я вже пробувала подавати скарги на певні канали й це не дало результату. А з ютуб-каналами, на мою думку, спробувати варто.

«Через велику кількість дезінформації довіра до всіх медіа, навіть якісних, може знижуватися»

Вадим Міський: Насамкінець хотілося б поговорити про наслідки, які може мати таке нове явище в інтернеті як масова генерація неправдивого контенту штучним інтелектом, особливо коли цей контент є політичним і торкається суспільно важливих тем. Як ти вважаєш, до чого це може призвести? Чи ми вже побачили все, на що здатний штучний інтелект, чи це лише початок і нас очікують серйозні проблеми в майбутньому?

Ірина Семенюта: Я думаю, що катастрофи не буде, адже, наприклад, у Євросоюзі вже розробили Акт про регулювання штучного інтелекту. Україна як кандидатка у члени ЄС теж має його затвердити, навіть якщо це станеться не скоро. Проте до катастрофи, гадаю, ми не дійдемо, оскільки через величезний масив інформації у людей уже формується певний «фільтр». Однак це також може бути мінусом, оскільки через велику кількість дезінформації довіра до всіх медіа, навіть якісних, може знижуватися. Тобто люди почнуть відштовхувати будь-яку інформацію, навіть якщо вона є правдивою.

«Раджу обирати контент, де можна побачити живу людину»

Вадим Міський: Отже, ми говоримо про те, що це явище вже існує. Це привід для кожного з нас ретельно ставитися до тих відео, які неочікувано з’являються у вашій стрічці на ютубі. Проблема є: як відрізнити ШІ та не потрапити в пастку?

Ірина Семенюта: По-перше, зверніть увагу на голос. Штучний інтелект озвучує відео без емоцій і це легко відрізнити від живої людини. Відео також привертає увагу клікбейтними заголовками, які мають спонукати до перегляду, але не повинні викликати паніку або страх. Якщо ви бачите заголовки на кшталт «Україна рухнула» або «приготуйтеся до ядерного вибуху», така інформація має надходити з офіційних джерел, а не з подібних каналів.

Раджу обирати контент, де можна побачити живу людину, яка називає себе. Хоча і тут є ризики — багато блогерів подають інформацію з власними оцінками, але це хоча б не штучний інтелект. Ви можете погоджуватися чи не погоджуватися з людиною, але тут важливо, що це жива людина, а не ШІ.

Вадим Міський: Отже, підсумуємо: емоційні заголовки — це погано. Це сигнал того, що щось не так. Важливо звертати увагу на джерело: чи це інформація від офіційних органів, чи від анонімних ютуб- або телеграм-каналів. Жива людина в кадрі — це важливо. І завжди варто застосовувати критичне мислення: задумайтеся, кому і навіщо вигідна та чи та інформація. Сподіваємося, що людство буде розвиватися й наші навички медіаграмотності будуть вдосконалюватися швидше, ніж штучний інтелект. Бо якщо подумати, що два роки тому не було ChatGPT, а зараз багато людей не уявляють навчання без нього — це може лякати, але будемо сподіватися, що ми випередимо наші технології та зможемо контролювати їх розвиток.

в попередніх випусках подкасту «Медіуми» говорили з Марією Левоновою про аналітичні центри в Україні, їх сприйняття політиками та суспільством, Лізою Кузьменко про кроки, які зробила Україна за останні роки для подолання гендерної дискримінації, Філом Пухарєвим про феномен фільму «Яремчук. Незрівнянний світ краси», Крістіною Гаврилюк про те, чи здатні DMA і DSA змінити правила гри на європейському ринку цифрових послуг, Аліною Елєвтєровою про виклики та можливості, що приносить штучний інтелект у медіаіндустрію, Катериною Городничою про проблеми з українськими late night show, Святославом Загайкевичем про сучасний український стендап, його розвиток, виклики та роль в українському культурному просторі, Кирилом Передрієм про те, як наймолодший журналіст України готується до інтервʼю з провідними політиками країни, Олексієм Мандзієм про контент каналу «Суспільне Спорт», підготовку до Олімпіади та промоцію масового спорту, Тетяною Лебедєвою про журналістський конкурс «Честь професії» та роботу Комісії з журналістської етики, Романом Колядою про вихід Першого каналу з марафону, 100-річчя «Українського радіо» та неймовірні історії, що відбуваються в прямому ефірі, Тетяною Трощинською про премію імені Георгія Ґонґадзе, токшоу «Новий відлік», телемарафон та виклики перед майбутніми поколіннями журналістів, Альоною Яциною про «Кордон.Медіа», що висвітлює події Сумщини, війну та історії неймовірних людей, які має бачити весь світ, Наталією Курдюковою про Kharkiv Media Hub, що допомагає підтримувати роботу українських і іноземних медіа у Харкові, Катериною Котвіцькою про аналіз поточної ситуації та трендів у сфері дистрибуції аудіоконтенту онлайн, Сергієм Гнезділовим про творчість на війні, цензуру і (не)ефективні державні комунікації, Галою Котовою про те, як досвід роботи під час пандемії допоміг команді Rakuten Viber зростати після початку широкомасштабного вторгнення, Олександром Педаном про співпрацю з Суспільним, новий проєкт замість «УніверCheck» та інші ідеї pedan|buro, Дмитром Хоркіним про те, як вплинула війна на розвиток радіо в Україні, Вікторією Мурованою про «моркву в шоколаді» як принцип виготовлення контенту для дітей.

Також рекомендуємо: Подкаст «Детектор медіа говорить», у якому ми начитуємо найцікавіші статті та рецензії, що виходять на сторінках нашої групи онлайн-видань. Якщо у вас не вистачає часу на читання, ви можете просто слухати нашу аудіоверсію. Підписуйтеся на подкаст та отримуйте доступ до найцікавіших матеріалів «Детектора медіа» у зручному для вас форматі.

Колаж: «Детектор медіа»