Як скандальний експеримент з АІ-ботами поставив під велике питання майбутнє демократії

Нещодавно науковці з Цюрихського університету провели, як на мене, дуже цікавий експеримент.

Вони намагалися з'ясувати, наскільки "погані актори" можуть успішно використовувати боти зі штучним інтелектом для переконання людей в онлайн-дискусіях.

Для цього створили облікові записи для ботів на Reddit (найбільша онлайн-платформа форумів). Дали їм певний портрет та історію, причому досить-таки своєрідну (один з ботів представляв уявного темношкірого чоловіка, який постраждав від зґвалтування і виступав проти популярного руху Black Lifes Matter).

Вони могли не тільки бачити повідомлення від інших користувачів і писати відповіді. Але також враховувати інші повідомлення цих користувачів та інформацію про них (що користувач пише в розділі про себе), і це дозволяло ботам створювати дуже таргетовані та персональні аргументи для переконання інших користувачів. І з таким підходом це у них дуже добре виходило.

Зрозуміло, що такі боти – це сутності дуже масштабовані. Тільки в цьому дуже обмеженому експерименті вони написали тисячі коментарів.

Сам експеримент викликав великий скандал, бо адміністрацію Reddit ніхто про нього не попереджав, як і користувачів. А таке використання ботів без узгодження є забороненим їх політиками. Їх це настільки обурило, що вони готують офіційні юридичні претензії.

Не знаю, як там воно закінчиться. Але сам експеримент, безперечно, вдалий і показовий.

Вся ідея демократії будується на вільному і відкритому для всіх обговоренні важливих для суспільства рішень – вибори посадових осіб, ухвалення певних важливих законів тощо.

І очевидно, як 2+2, що штучний інтелект може швидко перевернути цю конструкцію — як в плюс, так і в мінус.

Причому навіть гравцями не з цього конкретного суспільства.

Взагалі нескладно уявити яку-небудь групу з раші, Північної Кореї чи такого плану місць, яка створює тисячі чи десятки тисяч або хоч мільйони ботів, наводнює ними соцмережі в певній країні. Системно вступає в сотні тисяч дискусій. Накопичує багаж найбільш дієвих аргументів. Координує зусилля. Вивчає співбесідників в діалогах, створює сильні персональні аргументи.

І це все проти людей, які в більшості навіть не розуміють, що таке може бути, до того ж це вже буденність.

З іншого боку, також цілком можна уявити собі сценарії значного посилення демократії. Коли АІ виступає як грибниця, деяким розумним середовищем, в якому суспільство може кристалізувати свою волю та оптимальні рішення. В якому він може бути ефективним модератором у діалозі мільйонів. І врешті відповідно — перевести демократію зі значною мірою ілюзорного стану, як є зараз, у реальність.

Оригінал