Google, OpenAI, Roblox та Discord заснували ініціативу для захисту дітей онлайн

Google, OpenAI, Roblox та Discord започаткували ініціативу ROOST (The Robust Open Online Safety Tools), спрямовану на те, щоб зробити основні технології безпеки більш доступними.

Автори ініціативи прагнуть, зокрема, надати доступ до ШІ-інструментів для виявлення матеріалів сексуального насильства над дітьми. Про це повідомило видання The Verge.

Колишній гендиректор Google та співзасновник ROOST Ерік Шмідт розповів, що спершу команда ініціативи почне з платформи, орієнтованої на захист дітей, а згодом зосередиться на питанні більш безпечного інтернету для всіх.

Згідно з офіційною заявою, йдеться про «безкоштовний та простий у використанні інструмент з відкритим кодом для виявлення, перегляду та повідомлення про матеріали сексуального насильства над дітьми (CSAM)».

Для цього використовуватимуться великі мовні моделі. Спеціалізовані команди зі свого боку працюватимуть з організаціями для інтеграції нових заходів безпеки.

Наразі ROOST зібрала понад $27 мільйонів на перші чотири роки. Ініціативу підтримують McGovern Foundation, Future of Online Trust and Safety Fund, Knight Foundation, AI Collaborative, Microsoft, Mozilla, Bluesky та інші.

Ініціативу також підтримають експерти в галузі захисту дітей, у сферах штучного інтелекту, технологій з відкритим кодом і боротьби з жорстоким екстремізмом.

• Читайте також: (Не)безпечний інтернет: як захистити дітей онлайн

Фото: Unsplash