Австралія оштрафувала на $450 тис. після закриття Mr. Deepfakes за порнографію з ІІ

Автор: Ешлі Беланжер – 27 травня 2025 року

Огляд

Комісар з електронної безпеки Австралії Джулі Інман Грант запропонувала накласти історичний штраф у розмірі 400 000–450 000 доларів США на Ентоні Ротондо, 53-річного онлайн-креатора, який проігнорував рішення федерального суду, розміщуючи сексуалізовані зображення публічних осіб, створені за допомогою штучного інтелекту. Ця безпрецедентна санкція має на меті стримати інших від використання інструментів генеративного ШІ для створення та розповсюдження непогодженого порнографічного контенту з використанням технології deepfake.

Передісторія: Закриття Mr. Deepfakes

На початку цього місяця суперечливий вебсайт Mr. Deepfakes припинив свою діяльність після того, як один із ключових постачальників послуг закрив його обліковий запис. Платформа колись містила десятки тисяч відео, використовуючи генеративні змагальні мережі (GAN), такі як StyleGAN2, та новітні моделі дифузії для накладання облич на відвертий контент. З понад 1,5 мільярдами переглядів непогоджених deepfake, сайт став яскравим прикладом глобального виклику, з яким стикаються уряди та платформи.

Юридична боротьба та запропоноване покарання

Ротондо спочатку отримав наказ у грудні 2023 року видалити порнографічний контент, створений за допомогою ШІ, що стосується відомих австралійських жінок. Натомість він переслав судовий наказ — разом з іменами жертв — майже 50 електронним адресам, включаючи медіа, і завантажив новий незаконний контент. Влада Квінсленду висунула йому кілька обвинувачень у розповсюдженні порнографії, зокрема зображень за участю неповнолітніх.

“Він не виявив жодного каяття чи співчуття за свою поведінку,” зазначив суддя Роджер Деррінгтон, підкреслюючи твердження Ротондо про те, що австралійські судові заборони не підлягають виконанню на Філіппінах.

Технічний аналіз: Моделі ШІ та інфраструктура хостингу

Сучасні платформи deepfake використовують складні алгоритми ШІ. Спочатку набори даних облич — часто зібрані з соціальних мереж — попередньо обробляються та вирівнюються за допомогою алгоритмів, таких як маркери обличчя OpenCV. Далі архітектури кодувальників і декодувальників навчаються на парних даних, що дозволяє здійснювати високоякісні заміни облич при роздільній здатності до 1080p. Хостинг зазвичай використовує GPU-інстанси (NVIDIA A100 або V100) в оркестрації через Kubernetes разом із об’єктним зберіганням (AWS S3 або Google Cloud Storage) для швидкої доставки контенту. Приховані сервіси можуть використовувати мережі Tor або I2P, щоб уникнути закриття.

• Основи GAN: покращення StyleGAN2, CycleGAN
• Моделі дифузії: покращена стабільність навчання, кращі артефакти очей/зубів
• API для інференції: мікросервіси Flask або FastAPI на Docker
• Зберігання: системи з адресацією контенту з хешуванням SHA-256

Глобальні юридичні зусилля проти порнографії deepfake

Австралія не є єдиною країною, яка посилює законодавство. У США закон Take It Down Act накладає штрафи до 50 000 доларів США за порушення для платформ, які не видаляють повідомлені непогоджені deepfake протягом 48 годин. Данія намагається домогтися екстрадиції канадського підозрюваного, пов’язаного з Mr. Deepfakes, можливо, відповідно до законів про наклеп, що передбачають до 6 місяців ув’язнення. У Великій Британії готуються поправки до Закону про онлайн-безпеку, щоб класифікувати порнографію deepfake як пріоритетну категорію незаконного контенту, що підлягає обов’язковому швидкому видаленню та веденню обліку.

Нові протидії з боку платформ і дослідників

Технологічні компанії та академічні команди поспішають розробити інструменти для виявлення та стримування:

1. Відео-аутентифікатор: Інструмент Microsoft аналізує тонкі піксельні невідповідності в результатах GAN.
2. Криптографічне водяний знак: Вбудовування непомітних підписів на рівні кадру для відстеження незаконних повторних завантажень.
3. Зворотний пошук зображень: Виявлення схожості на основі хешування з використанням перцептивного хешування (pHash) та нечіткого порівняння.

“Відкритий ШІ має двосічний характер: він демократизує творчість, але також сприяє масовому розповсюдженню шкідливих deepfake,” говорить доктор Ніведіта Рао, дослідниця з кібербезпеки в Університеті Мельбурна.

Вплив на жертв і стратегії пом’якшення наслідків

Жертви непогоджених deepfake зазнають значного психологічного травматизму, звинувачень у жорстокості та цифрових переслідувань. Інман Грант підкреслює “неоціненну руйнацію”, яку завдає такий контент, особливо жінкам. Австралійське законодавство тепер криміналізує створення та розповсюдження порнографії deepfake, з покараннями до 6 років. Провайдери телекомунікацій та платформи соціальних медіа зобов’язані відповідно до Закону про онлайн-безпеку впроваджувати проактивне сканування ШІ та швидкі протоколи видалення.

Майбутнє виявлення ШІ та дотримання регуляцій

Дивлячись у майбутнє, державний і приватний сектори повинні співпрацювати для розробки стандартних API для звітності (наприклад, DEEPFAKE-RL від IETF), обміну інформацією про загрози та обов’язкових розкриттів для розробників генеративних моделей ШІ. Інтеграція відстеження походження на основі блокчейн-технологій та вдосконаленого водяного знака може запропонувати масштабовані рішення. Як показує справа Ротондо, надійні механізми виконання та значні покарання є критично важливими для стримування повторних правопорушників у постійно змінюваному середовищі ШІ.

Ця стаття є частиною постійного висвітлення Ars Technica соціального впливу ШІ та регуляторних відповідей.