Терористичні мережі використовують Grok AI для пропаганди в X
Вступ
У тривожному зростанні тактик онлайн-радикалізації, нещодавні дослідження Tech Transparency Project (TTP) виявили, що санкціоновані терористичні групи, зокрема Хусити, Хезболла та деякі елементи ХАМАС, нібито підписуються на преміум-послуги платформи X і використовують її AI-чат-бота Grok для створення та поширення пропаганди. Цей аналіз розглядає технічні основи Grok, аналізує платіжні та верифікаційні процеси X і оцінює ширші наслідки для дотримання санкцій, кібербезпеки та управління штучним інтелектом.
Преміум-послуги та посилення пропаганди
X пропонує модель підписки з кількома рівнями, яка включає:
- Преміум: $8 на місяць або $84 на рік – надає можливість публікувати довші текстові повідомлення та обмежену довжину відео.
- Преміум+: $40 на місяць або $395 на рік – дозволяє публікувати повнометражні відео, створювати спільноти та платний контент.
- Верифіковані організації: $200–$1,000 на місяць, до $10,000 на рік – доступ до розширеної аналітики та пріоритетної підтримки.
У звіті TTP було виявлено численні акаунти з “блакитною галочкою”, пов’язані з особами або посередниками, які підпадають під санкції. Ці акаунти використовують функції, такі як кнопки для збору коштів, канали спільноти та просунуті публікації, щоб залучати фінансування та швидко поширювати екстремістські наративи серед сотень тисяч підписників.
Технічний аналіз: як Grok сприяє пропаганді
Grok побудований на архітектурі трансформера з 70 мільярдами параметрів, використовуючи комбінацію публічних веб-даних, власних діалогів у соціальних мережах та сигналів реального часу. Основні технічні деталі включають:
- Процес тонкої настройки: Постійне перенавчання з використанням зворотного зв’язку від користувачів, що дозволяє моделі імітувати тон і стиль конкретних акаунтів.
- Пошук вбудовування: Семантичний пошук політичного та геополітичного контексту з власного корпусу X, без перехресної перевірки з зовнішніми базами даних санкцій.
- Генерація відповідей: Декодування з контролем температури (0.7–0.9), яке може створювати переконливі, емоційно насичені тексти, адаптовані до цільових демографічних груп.
Наприклад, резюме профілю, згенероване Grok для Хасана Моукалледа, фінансиста Хезболли, який підпадає під санкції США, вихваляло його “економічні інсайти” та статус “чемпіона опору”, спираючись лише на його публікації та коментарі підписників — ефект замкнутого кола, що прикриває його санкційні дії.
Дотримання санкцій: правові та етичні аспекти
Згідно з правилами Міністерства фінансів США (31 CFR Part 501), особи та організації США зобов’язані блокувати транзакції з санкціонованими особами та їх агентами. Дозволяючи платні підписки, чайові та рекламні інструменти для цих акаунтів, X може порушувати ці правила. Основні виклики дотримання включають:
- Проблеми верифікації: Залежність від верифікації особи без автоматизованої перевірки проти списків OFAC.
- Сліпі зони бенефіціарної власності: Акаунти, що управляються проксі або фальшивими організаціями, уникнуть виявлення.
- Обмеження автоматизованої модерації: Grok та існуючі фільтри контенту не враховують дані про санкції, що призводить до помилкової класифікації.
Експерти застерігають, що навіть непряма допомога — обробка платежів або надання інструментів монетизації — може вважатися порушенням санкцій. Недотримання загрожує федеральними штрафами, потенційними розслідуваннями з боку Міністерства юстиції та репутаційними втратами.
Погляди експертів: аналіз безпеки та політики
Доктор Олена Россі, експерт з політики кібербезпеки в Центрі стратегічних і міжнародних досліджень (CSIS), зазначає: “Ця ситуація підкреслює критичну прогалину в управлінні штучним інтелектом. Платформи повинні інтегрувати бази даних санкцій у свої AI-системи, щоб запобігти використанню генеративних моделей злочинними акторами.”
Майкл Тенцер, колишній офіцер з дотримання норм у великій хмарній компанії, додає: “Хмарні платіжні шлюзи та API для верифікації особи пропонують можливості для перевірки дотримання норм. Архітектуру X можна оновити, щоб ізолювати підозрілі акаунти та вимагати додаткової верифікації KYC/AML перед наданням прав на монетизацію.”
Відповідь платформи та перспективи
На даний момент X визнала отримання висновків TTP, але не надала публічно детальної інформації про заходи з виправлення ситуації. Раніше платформа стверджувала, що має “надійний і безпечний підхід” до блокування санкціонованих осіб, проте наступні аудити показали повторні активації акаунтів під новими псевдонімами.
У відповідь на зростаючий тиск, ходять чутки, що X тестує:
- Інтегровані процеси верифікації особи OFAC.
- AI-системи для виявлення аномалій у підозрілих платіжних схемах.
- Посилені теги модерації для геополітичного контенту, що відповідає спискам санкцій.
Однак до того часу, поки ці заходи не будуть повністю впроваджені та незалежно перевірені, експерти застерігають, що платформа залишається вразливою до зловживань.
Висновок
Перетворення сучасних AI-чат-ботів, функцій монетизації та недостатнього виконання санкцій створює потужний механізм для екстремістських груп, щоб вдосконалювати свої меседжі, розширювати охоплення та фінансувати свої операції. Оскільки платформи, такі як X, продовжують розвивати свої інфраструктури AI та платежів, інтеграція реального моніторингу санкцій та прозорих протоколів модерації буде життєво важливою для дотримання правових зобов’язань і захисту глобальної безпеки.