Защиту корпоративного ИИ не стоит начинать с запрета ChatGPT или закупки еще одного средства безопасности. Первоочередная задача CISO — понять, где именно ИИ используется в компании, какие полномочия он имеет и какие действия может выполнять без участия человека.
- Провести инвентаризацию AI-инструментов и агентов.
Определить, какие AI-сервисы используют сотрудники, какие агенты развернуты в корпоративной среде и к каким системам они подключены. Учесть не только официально утвержденные решения, но и самостоятельно настроенные интеграции, сторонние расширения и экспериментальные проекты разработчиков.
- Пересмотреть права доступа и полномочия агентов.
AI-агент должен получать только те разрешения, которые необходимы для конкретной задачи. Если ему нужно подготовить отчет, это не означает, что он должен иметь возможность удалять файлы, отправлять письма внешним адресатам или изменять права доступа.
- Установить правила работы с корпоративными данными.
Определить, какую информацию разрешено передавать внешним AI-сервисам, какие модели и интеграции согласованы компанией и как контролируется обработка конфиденциальных данных. Политики должны подкрепляться механизмами контроля, а не только инструкциями для персонала.
- Обеспечить видимость действий AI-агентов и проверить их устойчивость к атакам.
CISO должен стремиться видеть не только сам факт использования AI, но и последовательность действий агента: какие инструкции он обрабатывал, к каким ресурсам обращался, какие инструменты вызывал и какие операции пытался выполнить. Необходимо проверить сценарии prompt injection, попытки утечки данных и злоупотребления правами доступа. Именно здесь уместны специализированные решения для защиты AI во время выполнения, в частности CrowdStrike Falcon Guardian.
- Включить AI-агентов в процессы реагирования на инциденты.
Компания должна заранее определить, что делать, если агент начал выполнять нежелательные действия: как остановить его работу, отозвать токены и права доступа, изолировать интеграцию, сохранить журналы событий и установить масштаб потенциальной утечки. Сценарии с AI необходимо проверять на практике так же, как и другие сценарии киберинцидентов.
Рис. 1. Защита ИИ-агентов на протяжении всего жизненного цикла.
Главный принцип для CISO: не нужно ждать, пока AI-агенты станут неотъемлемой частью всех бизнес-процессов. Начните с инвентаризации, минимальных привилегий, контроля данных и видимости действий. И только после этого масштабируйте автономность.