Защита корпоративного искусственного интеллекта и ИИ-агентов

AI-инструменты (ChatGPT, Claude, Gemini и другие) уже используются сотрудниками, а AI-функциональность активно интегрируется в приложения и сервисы.

При этом организации часто не имеют:

• достаточной видимости того, как именно используется ИИ;
• контроля над тем, какие данные передаются в AI-сервисы;
• механизмов выявления рискованных взаимодействий;
• необходимого контекста для расследования инцидентов;
• согласованного подхода между SecOps, IT и engineering командами.

CrowdStrike Falcon Guardian расширяет возможности AI Detection and Response (AIDR) предоставляя видимость, контроль и защиту ИИ-агентов непосредственно во время их работы.

Контроль использования AI сотрудниками в управляемой среде.

Мониторинг активности ИИ в управляемых браузерах с помощью Browser Collector AIDR, который является легковесным браузерным расширением для управляемых конечных устройств и обеспечивает сбор и анализ взаимодействий сотрудников с веб-инструментами ИИ с последующим применением политик безопасности.

Возможности

• видимость использования AI-инструментов сотрудниками;
• анализ взаимодействий (промпты и ответы);
• обнаружение передачи чувствительных данных (PII, credentials и т.д.);
• применение политик контроля;
• поддержка сценариев защиты данных в GenAI.

Когда это актуально

• сотрудники используют публичные AI-инструменты;
• есть требования к контролю передачи данных;
• нужна видимость без полного запрета AI.

Контроль и безопасность активности ИИ в приложениях и агентных средах

Мониторинг и контроль AI-активности в приложениях, сервисах и агентных средах с помощью набора коллекторов AIDR, которые обеспечивают сбор и анализ AI-телеметрии на различных уровнях инфраструктуры и применение политик безопасности.

Коллекторы

• Browser – браузерное расширение, которое фиксирует взаимодействия пользователей с сайтами провайдеров ИИ (ChatGPT, Claude, Gemini и другие) в управляемых браузерах;
• Application — интеграция через SDK и API для инструментирования внутренних приложений с встроенными (inline) проверками безопасности ИИ;
• Agentic — MCP (Model Context Protocol) proxy, который фиксирует трафик ИИ между MCP-клиентами и серверами;
• Gateway — интеграция на уровне сетевого proxy (Kong, LiteLLM, Portkey и другие), инспектирующая трафик ИИ на уровне API gateway;
• Cloud — интеграция с облачными платформами, собирающая логи и события, связанные с ИИ, с поддерживаемых платформ (AWS Bedrock);
• OpenTelemetry — стандартизированное инструментирование телеметрии для сбора данных, связанных с ИИ, из приложений и сервисов.

Возможности

• видимость AI-активности в приложениях и сервисах;
• обнаружение рискованных сценариев (например, prompt injection);
• применение политик к AI-взаимодействиям;
• обеспечение комплаенса и соответствия регуляторным требованиям.

Когда это актуально

• ИИ интегрирован в продукты или внутренние системы;
• нужен контроль взаимодействий на уровне API или приложений;
• существуют риски, связанные с эксплуатацией AI-логики.

Falcon Guardian расширяет возможности AIDR, обеспечивая защиту ИИ-агентов непосредственно во время их работы.

Решение позволяет обнаруживать известных и неизвестных ИИ-агентов и Shadow AI, связывать их активность с процессами на конечных устройствах и прослеживать всю цепочку от промпта до фактического влияния на систему.

Ключевые возможности

• обнаружение и оценка рисков ИИ-агентов;
• защита от прямых и непрямых prompt injection и других атак на ИИ;
• контроль взаимодействий с MCP-серверами и инструментами;
• защита чувствительных данных и credentials;
• обнаружение и блокировка опасных действий во время исполнения;
• расследование активности агента с контекстом конечного устройства;<
• изоляция скомпрометированных ИИ-агентов и связанных активов.\

Falcon Guardian в действии: защита ИИ-агентов

Как защитить ИИ-агентов, которые самостоятельно работают с данными, инструментами и корпоративными системами?

Смотрите демонстрацию CrowdStrike Falcon Guardian и узнайте, как решение обнаруживает Shadow AI, блокирует prompt injection и угрозы через MCP-серверы, защищает чувствительные данные и связывает действия ИИ-агентов с процессами на конечных устройствах для расследования и реагирования.

Смотрите, как работает Falcon Guardian.

AIDR собирает AI-телеметрию, анализирует её и применяет политики контроля.

Какие данные собираются:

• промпты;
• ответы AI;
• метаданные (user, device, application, timestamp и т.д.);
• результаты анализа (выявленные риски, применённые действия).

Типы политик:

Access rules — на основе атрибутов (пользователь, устройство, приложение).
Prompt rules — анализ контента промптов и ответов.

Какие риски помогает снизить AIDR

• передача чувствительных данных в AI-сервисы;
• использование несанкционированных AI-инструментов;
• отсутствие видимости AI-использования;
• рискованные или опасные взаимодействия с AI;
• нарушение внутренних политик и комплаенса.

AIDR не заменяет существующие инструменты безопасности (SIEM, DLP, EDR), а дополняет их, добавляя видимость и контроль именно для AI-взаимодействий.

Однако с распространением ИИ-агентов этого уровня видимости уже недостаточно. Агенты не только взаимодействуют с моделями, но и используют инструменты, получают доступ к данным и выполняют действия в корпоративной среде. Поэтому защита должна охватывать не только промпты и ответы, но и фактическое поведение ИИ-агентов во время работы.

Именно этот уровень защиты обеспечивает CrowdStrike Falcon Guardian, расширяя AIDR возможностями обнаружения, контроля, защиты, расследования и реагирования для ИИ-агентов.

CrowdStrike сотрудничает с OpenAI в рамках программы Trusted Access for Cyber (TAC), получая доступ к специализированным моделям для кибербезопасности.

Это позволяет:

• использовать AI для обнаружения сложных атак
• анализировать угрозы в реальном времени
• повышать точность решений в области безопасности