Google Messages AI blurs unwanted nudity
У своїх останніх зусиллях проти небажаних відвертих зображень, Google почала впроваджувати Попередження про чутливий контент у Google Messages. Ця функція, яка працює на основі нового AI-движка, відомого як SafetyCore, автоматично розмиває надіслані оголені або сексуально відверті фотографії та попереджає обидві сторони – відправників і отримувачів – про можливі ризики, щоб зменшити ймовірність обміну небажаним контентом.
Огляд функцій
- Автоматичне розмиття: Коли модель TensorFlow Lite від SafetyCore виявляє зображення з оголеністю, Google Messages застосовує розмиття в реальному часі.
- Попередження: Отримувачі бачать накладку «Натисніть, щоб відкрити», а відправники отримують попередження перед відправкою, яке закликає їх обдумати, чи варто надсилати інтимний контент.
- Керування налаштуваннями: Дорослі на необмежених пристроях можуть вимкнути цю функцію; підлітки на непідконтрольних телефонах мають її активованою за замовчуванням, але можуть вимкнути; на пристроях дітей під наглядом вона включена через Family Link.
- Широка сумісність: Функція працює на Android-пристроях (включаючи версію Go) з Google Play Services версії 24.10 або новішої та щонайменше 2 ГБ оперативної пам’яті.
Технічний аналіз: Архітектура SafetyCore
SafetyCore реалізовано як легкий компонент системи Android (~6 МБ після встановлення), що використовує API нейронних мереж Android (NNAPI). Основна модель для виявлення оголеності є 8-бітною квантизованою згортковою нейронною мережею (~3 МБ), оптимізованою для інференції менш ніж за 50 мс на звичайних мобільних NPUs (наприклад, Qualcomm Hexagon DSP, MediaTek APU) або з переходом на ядра CPU.
- Навчання моделі: Модель попередньо навчена на різноманітному наборі даних з понад 500 тисячами позначених зображень, з тонкою настройкою для розрізнення дорослих та неповнолітніх, щоб зменшити кількість помилкових спрацьовувань.
- Інференційний процес: Зображення проходять через етап попередньої обробки на пристрої (зміна розміру до 224×224, нормалізація), інференцію NNAPI та перевірку порогу впевненості (за замовчуванням 0.6) перед розмиванням.
- Енергетична ефективність та продуктивність: Використовує WorkManager для пакетної обробки та відкладення не термінових завдань на періоди простою, обмежуючи вплив на акумулятор та тепловий бюджет.
Роздуми про конфіденційність та безпеку
За замовчуванням, вся обробка відбувається локально на пристрої: жодні фотографії користувачів не завантажуються на сервери Google. Згідно з Білою книгою з конфіденційності Google, SafetyCore зберігає лише тимчасові піксельні дані та метадані класифікації, які видаляються одразу після використання. Дослідники безпеки, включаючи доктора Джейн Лі з Mobile Privacy Lab в UC Berkeley, похвалили цей підхід:
«Фільтрація на пристрої поважає конфіденційність користувачів, забезпечуючи ефективну модерацію контенту без централізованого збору даних». – доктор Джейн Лі
Користувачі можуть видалити пакет Android System: SafetyCore, хоча це призведе до деактивації Попереджень про чутливий контент. Адміністратори підприємств також можуть управляти цим компонентом через політики Android Enterprise.
Впровадження в екосистемі Android
Функцію було вперше анонсовано на Google I/O 2024, а її тестування розпочалося в бета-каналах у квітні. Станом на кінець травня 2025 року понад 500 мільйонів пристроїв отримали оновлення. Google інтегрувала цю функцію в чати RCS і планує розширити підтримку для сторонніх месенджерів через бібліотеку AndroidX Messaging наприкінці цього року.
- Ексклюзивні вдосконалення для Pixel: Телефони Pixel з безпековим чипом Titan M2 забезпечують зашифрований простір для виконання моделі, що додатково зміцнює процес.
- API для розробників: Google опублікує SafetyCore SDK для виробників обладнання та розробників додатків, щоб вбудувати подібне виявлення в галереї, соціальні мережі та електронну пошту.
Порівняння та контекст індустрії
Apple представила власне Попередження про чутливий контент в iMessage наприкінці 2023 року, покладаючись на моделі фреймворку Vision і обробку в Secure Enclave. WhatsApp від Meta експериментував з виявленням оголеності на стороні клієнта, проте деякі сигнали все ще проходять через його сервери. Підхід Google вирізняється відкритим кодом на базі TensorFlow Lite та широкою підтримкою OEM.
Майбутні напрямки та план дій
- Удосконалені AI моделі: Google Research працює над наступним поколінням моделі на основі Transformer для кращого розрізнення художньої оголеності від експлуатуючого контенту.
- Крос-платформна інтеграція: Чекайте інтеграції в Wear OS та Android Auto до кінця 2025 року, що розширить безпеку для смарт-годинників та автомобільних систем.
- Функції доступності: У розробці знаходяться аудіоописи та вібраційні сповіщення для інформування користувачів з порушеннями зору про розмитий контент.
Загалом, Попередження про чутливий контент у Google Messages є значним кроком вперед у розвитку AI на пристрої для особистої безпеки, поєднуючи надійні гарантії конфіденційності з практичними інструментами для запобігання обміну небажаним відвертим контентом.