ИИ-агенты стали страшнее хакеров — почти половина ИБ-руководителей назвали их главной угрозой

В исследовании участвовали 600 специалистов по безопасности и финансам из семи стран. Главным риском ИБ-руководители назвали агентов, которые получили слишком широкие права доступа, были взломаны или начали выполнять действия, которых от них никто не ожидал.

Для сравнения, обычных внешних злоумышленников считают основной угрозой 28% участников опроса. Скомпрометированных сотрудников и инсайдеров с преступными намерениями выбрали по 12%.

Проблема в том, что ИИ-агенту часто заранее разрешают работать с внутренними документами, базами данных и корпоративными сервисами. Поэтому отдельный запрос к файлу или системе сам по себе может не выглядеть подозрительно. Опасность становится заметна позже, когда несколько обычных действий складываются в совсем не обычный сценарий.

Особенно сложно заметить проблему, если агент действует от имени легитимной учетной записи и использует разрешенные ему инструменты. В таком случае стандартные средства защиты могут долго не видеть ничего подозрительного.

Компании уже пытаются за этим следить. Около 60% опрошенных используют отдельные средства контроля ИИ, 56% подключают к такой работе существующие системы мониторинга. Почти треть организаций все еще проверяет действия агентов вручную.

В Exabeam считают, что простой фиксации действий здесь мало. Службам безопасности приходится разбираться не только в том, куда обратился агент, но и зачем он это сделал и укладывается ли такое поведение в его обычную работу.