Google починає сканувати фото на смартфонах: чим це загрожує користувачам

Сервіс Google Messages ("Повідомлення") тепер виявлятиме в повідомленнях відвертий контент і розмиватиме фото на пристроях Android.

Про це повідомило видання 9to5Google.

Google Messages почали попереджати користувачів про те, що зображення, які їм надіслали, можуть бути шкідливими. Одержувач може сам вирішити: переглянути або ж заблокувати номер. Відправники ж отримають нагадування про те, що надсилати оголені зображення і випадкові репости може бути небезпечно, і повинні будуть підтвердити або скасувати відправлення.

Як зазначили автори, функція поки що не набула широкого розповсюдження і наразі доступна лише на двох пристроях із бета-версією додатка "Повідомлення", які вдалося перевірити. Для дорослих користувачів сканування фото є опціональними і за замовчуванням вимкнені, але обов'язковими для осіб, молодших за 18 років. Дорослі можуть увімкнути нові заходи безпеки в налаштуваннях Google Messages у розділі "Захист і безпека" — "Управління попередженнями про конфіденційний контент". Залежно від віку дитини її налаштування можна змінити тільки в налаштуваннях її облікового запису або Family Link.

За словами розробників, система працює на базі Android System SafetyCore і аналізує зображення прямо на пристрої, не відправляючи жодних файлів або викривальних даних на сервери. Системна служба SafetyCore активна тільки тоді, коли додаток інтегрується із SafetyCore і спеціально запитує класифікацію контенту. Зображення не класифікуються, якщо вони не надсилаються через Google Messages з увімкненою функцією попереджень про чутливий контент.

Розробник операційної системи Android GrapheneOS підтвердив цю інформацію виданню Forbes. Він запевняє, що SafetyCore не сканує контент, який використовується в повідомленнях, на боці клієнта. Він надає моделі машинного навчання на пристрої, які можуть використовуватися додатками для класифікації контенту як спаму, шахрайства, шкідливого ПЗ тощо. Це дає змогу застосункам перевіряти контент локально, не ділячись ним зі службою, і позначати його попередженнями для користувачів.

Але в GrapheneOS також поскаржилися, що у розробників немає доступу до моделі, і Google не розкрила вихідний код. Отже, експерти не зможуть переконатися, чи дійсно це все безпечно і без підводних каменів.

Оновлення Google Messages було очікуваним, адже його анонсували ще у 2024 році, але подія все одно викликає багато запитань щодо можливих наслідків. Спірну функцію впроваджують у той самий час, коли безпечний, зашифрований користувацький контент перебуває під дедалі більшим тиском законодавців і служб безпеки по всьому світу. Захисники конфіденційності тривожаться щоразу, коли з'являється подібна технологія.

Google зіткнулася з власною критикою, коли вперше рекламувала впровадження Gemini в Messages, натякаючи, що ШІ може сканувати історію повідомлень користувача, щоб формувати тон і контекст пропонованих відповідей. Як було сказано в той час, це складне поєднання із зашифрованою платформою обміну повідомленнями.

Google Messages — не єдина платформа обміну повідомленнями, яка впровадила спірну функцію ШІ цього тижня. Месенджер WhatsApp вирішив не відставати, і ситуація з ним може бути ще гіршою. Там ввели Meta AI — додаткову послугу від Meta з використанням генеративної моделі, яка "може відповісти на ваші запитання, навчити вас чогось або допомогти придумати нові ідеї". Головна проблема в тому, що користувачі не можуть видалити або відключити цей ШІ.