Кінець секретам у ChatGPT: як ваша особиста балаканина зі ШІ може стати судовим документом

Коли люди використовують ChatGPT, вони вважають, що їхні слова є швидкоплинними — частиною приватної розмови з машиною, яка все забуває. Мільйони людей тепер довіряють ChatGPT свої найделікатніші питання про здоров'я, стосунки та гроші. І справді, відповідно до політики OpenAI, більшість чатів видаляються через 30 днів і не використовуються для навчання моделі.

Однак тепер федеральний суд скасував цю політику.

Минулого місяця федеральний суддя за позовом The New York Times про захист авторських прав зобов'язав OpenAI зберігати всі журнали користувачів ChatGPT, включно з "тимчасовими чатами" і запитами, навіть якщо користувачі відмовилися від навчання та обміну даними.

Користувачі можуть на свій розсуд видалити зі своїх акаунтів журнали чатів, що містять конфіденційну інформацію, але тепер усі чати мають бути збережені, щоб виконати рішення суду. А для бізнес-користувачів, які підключаються до моделей OpenAI, ставки можуть бути ще вищими. Їхні журнали можуть містити найконфіденційніші дані їхніх компаній, включно з комерційною таємницею і привілейованою інформацією.

Для юристів це непримітно. Суди постійно видають накази про збереження доказів, щоб не втратити їх під час судового розгляду.

Але для всіх, хто стежить за повільною ерозією цифрової приватності, ця подія є сейсмічною. Тепер ми знаємо, що політики конфіденційності не є самопідсилювальними. У багатьох випадках вони, очевидно, навіть не є обов'язковими.

Обіцянка про конфіденційність — наприклад, "ми не зберігаємо ваші чати" — може бути скасована суддею, голосуванням акціонерів або тихим оновленням умов надання послуг. У цьому випадку вона була перекреслена вимогами судового розслідування.

Важливо Локшина на наших вухах: як ШІ штампує музичні хіти, забираючи гроші у живих музикантів

Ми побудували цифровий світ на ілюзії контролю. Компанії пропонують тумблери, прапорці, шифрування та обіцянки видалення. Але все це не є правами, що мають юридичну силу. Вони більше схожі на маркетингову копію: легко змінюються, здебільшого не мають законної сили і не мають сенсу, якщо їх заперечує закон або капітал.

Google, Zoom, Slack та Adobe змінили практику роботи з даними таким чином, що ретроактивно змінили очікування користувачів щодо конфіденційності.

Такою є реальність, у якій ми живемо: Наша конфіденційність залежить не від того, що нам кажуть, а від того, чи проживе компанія, яка нам це каже, досить довго, щоб цього дотримуватися — і чи не буде її куплено, засуджено або реструктуризовано по дорозі.

Що повертає нас до зали суду. Річ не у тому, чи виконує OpenAI припис, і не в тому, що вона могла б обмежити наслідки, ізолювавши відповідні журнали раніше під час судового розгляду. Річ у тім, що ніхто — ні компанія, ні її користувачі, ні її політика конфіденційності — не в змозі протистояти цим наслідкам.

Наша правова система була розроблена для фізичних документів і корпоративних серверів. Вона ще не стикалася з постійним збором даних, поведінковою рекламою або інструментами штучного інтелекту, що об'єднують особисті та суспільні дані. І за відсутності чітких законодавчих обмежень суди схилятимуться до надмірного збереження.

Якщо OpenAI має зберігати всі журнали користувачів через претензії щодо авторського права, то що станеться, коли правоохоронні органи вимагатимуть доступ до текстових повідомлень у справі про домашнє насильство? Або коли генеральний прокурор штату видасть повістку до суду на отримання даних про місцезнаходження із застосунку для охорони репродуктивного здоров'я? Тягар збереження заразливий. Створюваний юридичний прецедент свідчить: якщо дані можуть стати в пригоді в суперечці, їх слід зберегти — навіть якщо це порушить недоторканність приватного життя мільйонів непричетних користувачів.

Усе це — нагадування про те, що недоторканність приватного життя, якщо вона не підкріплена законом або не посилена дизайном, має умовний характер. Суд не просто зберіг докази. Він змінив архітектуру довіри навколо одного з найпопулярніших у світі інструментів штучного інтелекту.

Якщо ми хочемо приватності, нам потрібні закони, що вимагають мінімізації даних; юридичні брандмауери, які не дають змоги судам перетворювати тимчасові повідомлення на постійні докази; та інструменти, які від самого початку розроблені так, щоб не запам'ятовувати.

Тому що, якщо нічого не зміниться, ваші особисті чати насправді не є особистими. Вони просто чекають, коли їх викличуть до суду.

Автор висловлює особисту думку, яка може не збігатися з позицією редакції. Відповідальність за опубліковані дані в рубриці "Думки" несе автор.

Джерело

Важливо Шарлотка з яблуками тисне на психіку: як ШІ знайшов маніпуляції в найпростішому кулінарному рецепті