Anthropic представляє ‘Claude Gov’: ШІ-чатбот для національної безпеки
У четвер Anthropic оголосила про запуск Claude Gov, набору спеціалізованих моделей штучного інтелекту, створених для задоволення суворих вимог агентств національної безпеки США. Розроблений у тісній співпраці з державними замовниками, Claude Gov вже використовується в закритих середовищах для підтримки стратегічного планування, аналізу розвідки та ухвалення оперативних рішень.
Спеціалізовані моделі ШІ для закритих операцій
У відповідь на безпосередній зворотний зв’язок від замовників у сфері оборони та розвідки Anthropic адаптувала Claude Gov для:
- Обробки закритих даних: Функціонує в безпечних зонах, сертифікованих за стандартом FIPS 140-2, таких як AWS Nitro Enclaves та локальні системи HPE, забезпечуючи збереження всіх даних у ізольованих мережах.
- Зниження рівня відмов: Впроваджує динамічні політики адаптації, які мінімізують безпечні відмови для затверджених запитів, що дозволяє аналітикам отримувати критично важливу інформацію без зайвих блокувань.
- Покращена мовна компетенція: Налаштована на багатомовних корпусах розвідки, що охоплюють арабську, фарсі, мандарин, російську та ключові діалекти, що покращує виявлення нюансів та точність перекладу.
Технічна архітектура та безпека
Архітектура Claude Gov акцентує увагу на безпеці та продуктивності:
- Апаратура та розгортання
- AWS Nitro Enclaves з виділеними пулами vCPU, зашифрованою оперативною пам’яттю та перевіреними послідовностями завантаження.
- Локальне розгортання на серверах HPE, що відповідають стандартам FIPS, з управлінням ключами на основі TPM.
- Специфікації моделей
- Архітектура трансформера з приблизно 52 мільярдами параметрів, оптимізована для швидкого інференсу.
- Попереднє навчання на комбінації відкритих та власницьких даних розвідки, що в сумі становить понад 600 мільярдів токенів.
- Тонке налаштування за допомогою навчання з підкріпленням на основі зворотного зв’язку від людей (RLHF) у процесі маркування закритих даних.
Безпека, точність та зменшення ризиків
“Нашим пріоритетом було забезпечити баланс між оперативними можливостями та суворими стандартами безпеки,” пояснює доктор Еллен Гармон, головний фахівець з безпеки в Anthropic. “Ми впровадили тестування на стійкість, червоні команди та постійний моніторинг, щоб мінімізувати ризик спотворення інформації та забезпечити надійні результати.”
Незважаючи на ці заходи, аналітикам рекомендується перевіряти звіти, згенеровані ШІ, проти встановлених баз даних розвідки та зберігати людський контроль у всіх критично важливих рішеннях.
Співпраця та інтеграція в екосистему
Anthropic поглибила партнерство з AWS та Palantir для спрощення інтеграції Claude Gov:
- Palantir Foundry: Пряме впровадження структурованих та неструктурованих даних, картування онтологій та візуалізація в реальному часі.
- AWS GovCloud: Безпечне хостинг моделей, автоматичне масштабування точок інференсу, детальний аудит та постійні перевірки відповідності.
Конкурентне середовище
Claude Gov виходить на швидко змінюваний ринок, де провідні постачальники ШІ змагаються за контракти в сфері оборони та розвідки:
- Ізольована версія GPT-4 від Microsoft для розвідувальної спільноти США.
- Класифіковане видання Gemini від Google, оптимізоване для локальних безпечних середовищ.
- Моделі Llama від Meta, доступні за спеціальними ліцензіями для оборони.
- Партнерство Cohere з Palantir для надання рішень NLP для підприємств у чутливих контекстах.
Ринкові наслідки та майбутні напрямки
Зростання впровадження ШІ в обороні вказує на ширші тенденції:
- Збільшення бюджетних асигнувань для систем підтримки рішень на базі ШІ.
- Підвищена увага до стандартизованих рамок управління ШІ, таких як NIST SP 800-53 та майбутні керівні принципи AI in Defense Act.
- Прискорення розвитку мульти-модальних можливостей, інтегруючи текст, зображення, сигнали та геопросторові дані в єдиних аналітичних процесах.
Регуляторні та етичні аспекти
З розширенням ролі ШІ в національній безпеці політики та технологи закликають до:
- Обов’язкових перевірок з боку третіх осіб та оцінок червоних команд для виявлення упереджень та прогалин у безпеці.
- Прозорих вимог до звітності для результатів розвідки, що використовують ШІ.
- Чітких вимог до людського контролю в будь-якому рішенні, що стосується смертоносних або стратегічних дій.
Висновки
Claude Gov від Anthropic є значним кроком уперед у сфері безпечного та відповідного ШІ для закритих операцій. Поєднуючи передові моделі трансформерів з надійними безпечними середовищами та широким тестуванням на безпеку, Claude Gov встановлює нові стандарти для урядового ШІ. У міру загострення конкурентного середовища агентства повинні знайти баланс між продуктивністю, витратами, безпекою та етичними аспектами при виборі правильного партнера з ШІ для критично важливих завдань.