Додаток Meta AI – це проблема для конфіденційності

Звучить як початок фільму жахів 21-го століття: історія вашого браузера весь цей час була публічною, і ви й гадки не мали. Саме так зараз виглядає новий окремий додаток Meta AI , де безліч людей публікують свої нібито приватні розмови з чат-ботом.

Коли ви ставите запитання штучному інтелекту, у вас є можливість натиснути кнопку «Поділитися», яка потім перенаправить вас на екран із попереднім переглядом публікації, яку ви потім можете опублікувати. Але деякі користувачі, здається, не підозрюють, що вони діляться цими текстовими розмовами, аудіокліпами та зображеннями публічно зі світом.

Коли я прокинувся сьогодні вранці, я не очікував почути аудіозапис чоловіка з південним акцентом, який запитує: «Гей, Мето, чому деякі пукання смердять більше, ніж інші?»

Запити, пов’язані з метеоризмом, – це найменша з проблем Meta . У додатку Meta AI я бачив, як люди просять допомоги з ухиленням від сплати податків, чи будуть члени їхніх сімей заарештовані за їхню причетність до злочинів у сфері ділової практики, або як написати рекомендаційний лист для співробітника, який має проблеми з законом, вказавши ім’я та прізвище цієї особи. Інші, як-от експерт з безпеки Рейчел Тобак, знаходили приклади домашніх адрес людей та конфіденційних судових даних, серед іншої приватної інформації.

Коли TechCrunch зв'язався з речником Meta, він не прокоментував цей запис.

Незалежно від того, чи визнаєте ви скоєння злочину, чи маєте дивний висип, це кошмар для конфіденційності. Meta не вказує користувачам, які їхні налаштування конфіденційності під час публікацій, або де вони взагалі публікують дописи. Тож, якщо ви входите в Meta AI через Instagram, і ваш обліковий запис Instagram є публічним, то такими ж є й ваші пошукові запити про те, як познайомитися з «жінками з великими дупами».

Багато чого з цього можна було б уникнути, якби Meta не створила додаток із божевільною ідеєю, що люди захочуть бачити розмови один одного за допомогою штучного інтелекту Meta, або якби хтось у Meta міг передбачити, що така функція буде проблематичною. Є причина, чому Google ніколи не намагався перетворити свою пошукову систему на стрічку соціальних мереж — або чому публікація AOL пошукових запитів псевдонімізованих користувачів у 2006 році пройшла так погано. Це рецепт катастрофи.

За даними Appfigures, компанії, що займається аналітикою додатків, додаток Meta AI був завантажений лише 6,5 мільйона разів з моменту його дебюту 29 квітня.

Це може бути напрочуд для незалежного додатка 

, але ми не говоримо про розробника-початківця, який створює нішеву гру. Це одна з найбагатших компаній світу, яка ділиться додатком із технологією, в яку вона інвестувала мільярди доларів.

З кожною секундою ці, здавалося б, нешкідливі запити в додатку Meta AI наближаються до вірусного безладу. За лічені години в додатку з'являється все більше й більше постів, які свідчать про явний тролінг, наприклад, хтось ділиться своїм резюме та просить роботу в кібербезпеці, або обліковий запис з аватаром жаби Пепе, який запитує, як зробити бонг з пляшки для води.

Якщо Meta хотіла змусити людей реально використовувати свій додаток Meta AI, то публічне зганьблення, безумовно, є одним із способів привернути увагу.