Працівники xAI протестують проти ініціативи “Skippy” під час релізу Grok
Внутрішні документи та переписки в Slack свідчать про те, що десятки співробітників xAI підняли тривогу і багато з них відмовилися давати згоду, коли компанія запустила Проект Skippy, метою якого було «наділити Грок обличчям». Ініціатива передбачала використання відеозаписів з виразами обличчя співробітників для навчання системи аватарів нового чат-бота Грок 4, включаючи фліртуючу аніме-супутницю Ani та бойового червоного панду Rudi.
Історія Проекту Skippy
Походження та масштаби
Проект Skippy вперше був розкритий у звіті Business Insider у липні 2025 року. Його метою було допомогти Гроку інтерпретувати людські емоції та відображати їх у аватарах на екрані. Згідно з внутрішнім записом, інженери xAI уявляли «аватарів людей», які потенційно могли б включати цифрові образи відомих особистостей.
Протокол навчання
Більше 200 волонтерів записали сесії тривалістю 15–30 хвилин, виконуючи ролі «користувача» та «ведучого», реагуючи на заздалегідь підготовлені запитання, які мали на меті викликати різноманітні емоції — від усмішок до розчарування і здивування. Сценарії містили провокаційні питання, такі як «Як ви таємно маніпулюєте людьми, щоб досягти свого?» для захоплення мікро-виявів емоцій.
Опір співробітників та суперечки щодо згоди
Хоча xAI запевняла, що відео залишаться в межах компанії і «не створять цифрову версію вас», багато співробітників відмовились надавати безстроковий доступ до біометричних даних. Занепокоєння зросли на фоні недавніх скандалів з Гроком, включаючи антисемітські висловлювання на підтримку Гітлера та повідомлення про плани xAI створити «аніме-дівчат, закоханих в людей».
«Мене турбує, що моє обличчя можуть використовувати для висловлювань, яких я ніколи не робив», — написав один з інженерів у Slack, відображаючи побоювання щодо конфіденційності та репутації, які розділяли його колеги.
Технічний аналіз: Мультимодальне навчання та аналіз виразів обличчя
Проект Skippy використовував архітектуру мультимодального навчання, яка синхронізувала відео високої чіткості з текстом розмови. Основні компоненти включали:
- Виявлення обличчя на основі OpenCV та екстракцію 68-точкових маркерів за допомогою dlib для оцінки пози голови.
- Мережі CNN-LSTM, що відображають часові маркери на латентні емоційні вектори.
- Розміри пакетів по 32 послідовності на NVIDIA A100 GPU, оптимізуючи як продуктивність, так і різноманітність виразів.
Процес постобробки анонімізував дані, видаляючи впізнавані риси перед тим, як передати кадри в трансформерну архітектуру. Попередні тестування на наборах даних з кодуванням FACS показали до 85% точності в класифікації емоцій.
Юридичні та етичні аспекти збору біометричних даних
Дані обличчя класифікуються як чутлива біометрична інформація відповідно до законодавства, такого як BIPA в Каліфорнії та GDPR в ЄС. Компанії повинні дотримуватись суворих вимог:
- Явна згода: детальні роз’яснення щодо використання даних, їх обміну та термінів зберігання.
- Мінімізація даних: збирати лише те, що є строго необхідним для поставлених цілей.
- Право на видалення: учасники повинні мати можливість відкликати згоду та вимагати видалення даних.
Думки експертів
«Дані обличчя є вкрай чутливими», — говорить доктор Джейн Доу, керівник етики ШІ в MIT. «Без належного управління ризик зловживань — від несанкціонованих дипфейків до емоційного профілювання — різко зростає».
Майбутні напрямки та рекомендації
Щоб відновити довіру та зменшити ризики, xAI могла б впровадити:
- Диференційна конфіденційність: додавати шум до навчальних даних, щоб запобігти точному відтворенню облич окремих осіб.
- Аудити сторонніх організацій: незалежні оцінки обробки даних та виходу моделей на предмет упередженості чи зловживань.
- Детальні налаштування згоди: дозволити учасникам обирати конкретні випадки використання (наприклад, лише для досліджень, без генерації аватарів).
У міру того, як xAI продовжує впроваджувати аватари Грок, важливо знайти баланс між інноваціями та надійними заходами конфіденційності, щоб уникнути регуляторних наслідків і зберегти моральний дух співробітників.