Нью-Орлеан призупинив програму розпізнавання облич на основі ШІ через порушення прав людини

Передумови: Використання живого розпізнавання облич у Новому Орлеані

Секретна мережа спостереження

З 2023 року поліція Нового Орлеана (NOPD) почала використовувати приватну мережу камер, керовану неприбутковою організацією Project Nola, для моніторингу вулиць у режимі реального часу з метою виявлення відомих підозрюваних. Понад 200 високоякісних 4K камер, встановлених на перехрестях і в громадських площах, передають відео зі швидкістю 30 кадрів на секунду на систему штучного інтелекту, розміщену на крайових серверах. Коли вбудована згорткова нейронна мережа (архітектура ResNet-50 з понад 99 мільйонами параметрів) ідентифікує обличчя з “чорного списку”, вона автоматично надсилає сповіщення на мобільні пристрої офіцерів з інформацією про обриси та рівень впевненості.

Міська постанова 2022 року та вимоги до контролю

У 2022 році міська рада Нового Орлеана прийняла постанову, яка дозволяє використовувати розпізнавання облич лише для виявлення конкретних підозрюваних у розслідуваннях насильницьких злочинів. Ця норма передбачає:

• Подання кандидатів на відповідність до централізованого фузійного центру.
• Перевірку щонайменше двома експертами, які пройшли навчання з ідентифікації облич за допомогою ШІ.
• Зберігання журналів аудиту, метаданих збігів та параметрів роботи.

Цей багатоступеневий процес був розроблений для зменшення помилкових спрацьовувань, які, згідно з дослідженнями NIST, можуть перевищувати 0,5% загальної похибки та зростати для недостатньо представлених демографічних груп.

Розслідування виявляє обхід заходів безпеки

Автоматизовані сповіщення та негайні затримання

Розслідування Washington Post виявило, що офіцери NOPD отримували неперевірені сповіщення, пропускаючи перевірку у фузійному центрі, і здійснювали арешти. Судові документи свідчать про щонайменше 34 затримання, пов’язані з сигналами камер, з середини 2023 до початку 2025 року.

Арешти поза межами дозволеного

Хоча постанова обмежує використання ШІ лише підозрюваними у насильницьких злочинах, записи свідчать про щонайменше чотири арешти за ненасильницькі правопорушення. Жоден з цих арештів не був зафіксований у обов’язкових квартальних звітах департаменту для міської ради, що свідчить про систематичне нехтування вимогами.

Технічна архітектура та специфікації системи

• Камери: 4K роздільна здатність, CMOS сенсори з глобальним затвором; експозиція 2 мс; інфрачервоні освітлювачі для умов низької освітленості.
• Крайові сервери: модулі NVIDIA Jetson AGX Xavian, що працюють на оптимізованій для TensorRT архітектурі ResNet-50; середня затримка інференції 50 мс на кадр.
• Мережа: приватна волоконна мережа з пріоритизацією QoS; 100 мс для передачі зображення до сповіщення.
• Модель ШІ: попередньо навчена на VGGFace2 та адаптована на місцевих фотознімках; повідомляється про 92% точність позитивних збігів при порозі помилкових спрацьовувань 0,2%.

Незважаючи на ці характеристики, демографічна упередженість залишається проблемою: результати FRVT вказують на помилкові спрацьовування, які можуть бути в 10 разів вищими для темношкірих і жінок.

Юридичні, етичні та приватні наслідки

“Прийнявши цю систему — таємно, без заходів безпеки та з величезною загрозою для нашої приватності та безпеки — Новий Орлеан перетнув червону межу”, — заявив Натан Фрід Весслер, заступник директора проекту ACLU з питань свободи слова, приватності та технологій.

Чотири штати (Меріленд, Монтана, Вермонт, Вірджинія) та 19 міст США прямо забороняють використання живого розпізнавання облич для негайних арештів. Критики стверджують, що обхід контролю порушує як постанову 2022 року, так і закони штату про приватність, такі як новий закон про захист даних у Луїзіані.

Думки експертів та вплив на громаду

ACLU Луїзіани виконавча директорка Аланах Одомс попереджає, що маргіналізовані громади — іммігранти, активісти, протестувальники — можуть бути несправедливо піддані переслідуванню та додані до списку спостереження Project Nola без прозорості. Доктор Джой Буоламвіні з Альянсу алгоритмічної справедливості підкреслює, що “неконтрольоване живе розпізнавання посилює упередженість в масштабах”, закликаючи до обов’язкових аудитів на упередженість та створення громадських контрольних рад.

Перспективи на майбутнє та рекомендації

1. Провести повний судово-технічний аудит усіх сповіщень, що ґрунтуються на ШІ, та пов’язаних арештів.
2. Впровадити строгі перевірки з участю людини з підписом двох експертів перед вжиттям заходів правоохоронними органами.
3. Запровадити моделі федеративного навчання та гомоморфне шифрування для захисту приватності особи.
4. Вимагати створення публічних інформаційних панелей у реальному часі, що детально висвітлюють використання системи, рівні збігів та демографічні розподіли.

Начальниця поліції Нового Орлеана Анн Кіркпатрик призупинила всі автоматизовані сповіщення до перегляду політики. Тим часом групи захисту прав людини вимагають постійної зупинки програми та публічного звіту про завдану шкоду.