Чоловік визнав провину у нападі на працівника Disney з використанням ШІ

Огляд справи

У справі високого профілю щодо кіберзлочинності 25-річний Райан Мітчелл Крамер визнав себе винним у Центральному окрузі Каліфорнії за звинуваченнями, пов’язаними з розгортанням AI-додатку для генерації зображень з бекдором. Згідно з документами суду, Крамер, діючи під псевдонімом NullBulge, використав шкідливу модифікацію відкритого пакету ComfyUI, яка надала йому віддалений доступ до цільових робочих станцій. Один з потерпілих, працівник Disney, був обманом змушений встановити заражене програмне забезпечення, що призвело до витоку приблизно 1,1 терабайта конфіденційних даних компанії, включаючи внутрішні канали Slack, записи працівників та фінансові документи.

Методи дій: Шкідливе AI-розширення

• Крамер опублікував “ComfyUI_LLMVISION” на GitHub, маскуючи його під розширення для легітимного інструменту ComfyUI.
• Встановлювач містив обфусковані Python-скрипти, які автоматично запускали модуль для викрадення паролів при старті.
• Викрадені облікові дані, дані платіжних карток та інформація про систему надсилалися на сервер Discord через вебхуки, закодовані в коді.
• Файли були замасковані під назви, що посилалися на OpenAI та Anthropic, щоб уникнути випадкової перевірки з боку жертв та аналітиків безпеки.

Технічний аналіз: Анатомія атаки

Дослідники безпеки з VPNMentor провели судово-медичний аналіз ComfyUI_LLMVISION. Вони виявили:

• Використання Python 3.10 з динамічними імпортами для завантаження кастомного модуля (llmvision_core.py), що містив автоматизовані процедури для запису натискань клавіш та збору даних з пам’яті.
• Інтеграцію з Discord Webhooks для асинхронного витоку даних, що дозволяло надсилати інформацію невеликими частинами, щоб уникнути виявлення аномалій у мережі.
• Техніки обфускації, такі як рядки в base64, кастомні CRC-перевірки для валідації цілісності модуля, а також використання PyInstaller для упаковки шкідливого ПЗ в нативний виконуваний файл.

“Ця атака демонструє, як зловмисники використовують AI-інструменти, які раніше вважалися безпечними, для доставки складних загроз,” зазначила доктор Олена Моралес, головний аналітик шкідливого ПЗ в SANS Institute. “Комбінація соціальної інженерії та відкритих AI-фреймворків небезпечно розширює площу атак на корпоративні мережі.”

Вплив на індустрію та стратегії захисту

Цей інцидент підкреслює зростаючу тенденцію, коли противники використовують AI-бібліотеки та ML-пайплайни для доставки шкідливого програмного забезпечення. Щоб зменшити такі загрози, організаціям слід:

• Впровадити строгий контроль підписування коду та валідацію постачальників для всіх сторонніх AI-інструментів.
• Використовувати рішення для виявлення та реагування на загрози (EDR), здатні виявляти незвичну поведінку процесів, наприклад, виклики API Discord з Python-скриптів.
• Забезпечити сегментацію мережі та доступ на основі найменших привілеїв, щоб обмежити бічний рух у разі компрометації.

Правова та регуляторна ситуація

Згідно з федеральним законодавством (18 U.S.C. § 1030), Крамер може отримати покарання до десяти років ув’язнення за несанкціонований доступ та витік захищених комп’ютерних даних. Його угода про визнання провини також передбачає відшкодування збитків та обіцянку співпрацювати з триваючими розслідуваннями ФБР щодо пов’язаних вторгнень. Ця справа підняла питання про необхідність оновлених регуляцій у сфері кібербезпеки, що стосуються загроз, пов’язаних з AI, та атак на постачальницькі ланцюги.

Висновок

Оскільки AI-фреймворки стають все більш поширеними в дослідженнях та бізнес-середовищах, ризик того, що відкриті проекти можуть бути використані зловмисниками, зростає. Справи на кшталт цієї служать попередженням: надійні процеси перевірки, постійний моніторинг та актуалізація правових рамок є надзвичайно важливими для захисту корпоративних та особистих даних від нових атак, що використовують AI.