Штучний інтелект Google Gemini нишпорив у файлі користувача без дозволу

Штучний інтелект у вигляді програм-помічників на комп’ютерах та смартфонах викликає природне занепокоєння щодо безпеки. Схоже, Google Gemini читає користувацькі файли, навіть якщо це заборонити.

Один з користувачів помітив, що Gemini висловив свою думку щодо документа, який він щойно відкрив, попри те, що він ніколи не просив її про це. Кевін Бенкстон стверджує, що після відкриття податкової декларації у форматі PDF у Google Docs раптово з’явився Gemini та резюмував його податкову декларацію. Кевін стверджує, що він не викликав Gemini після відкриття PDF-файлу, і особисто не надавав йому жодної інформації.

Just pulled up my tax return in @Google Docs–and unbidden, Gemini summarized it. So…Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn’t ask for this. Now I have to go find new settings I was never told about to turn this crap off.

— Kevin Bankston (@KevinBankston) July 10, 2024

Кевін ще трохи попрацював та помітив, що це вплинуло лише на PDF-файли. Він припустив, що одного разу відкрив PDF-файл та натиснув кнопку Gemini, щоб побачити, що станеться. після цього Gemini «вирішив» з’являтися щоразу, коли користувач відкривав PDF-файл.

Далі він пояснює, що запитав Google Gemini, як вимкнути цю функцію, і вона дала йому «глючні» (неправдиві) інструкції щодо налаштувань, яких не існувало. Потім Кевін знайшов фактичне розташування налаштування для вимкнення Gemini в Google Docs, але воно вже було вимкненим.

Деякі коментатори цього інциденту нарікали, що сервіси підвищення продуктивності Google тепер, можливо, стали інструментом для навчання ШІ. Інші питали, чому Кевін взагалі завантажував податкові декларації в Документи Google. Один коментатор запитав, чи була небажана допомога Gemini корисною та отримав негативну відповідь.

Невідомо точно, як саме діяв Кевін Бенкстон та чи його дані коректні. Однак існує ймовірність, що Google Gemini заглядає в файли користувачів більше, ніж хотілося б.

Джерела: Tom`s Hardware, XDA