Андрей Головин («СёрчИнформ»): «ИИ целесообразно внедрять как дополнительный аналитический слой внутри уже работающей системы»

 — Андрей, сильно ли за последние 1-2 года изменился рынок ИБ, а также подходы компаний к обеспечению ИБ, под влиянием ИИ? В чём проявляются эти изменения?

 — Изменился не столько рынок, сколько формулировка задачи. Два года назад в компаниях спорили, разрешать ли сотрудникам нейросети вообще. Сейчас спор идёт о том, как именно разрешать: около 42 % организаций всё ещё блокируют генеративные модели, а 40 % ИТ— и ИБ-специалистов уже работают с ИИ как с подконтрольным ассистентом (исследование УЦСБ и «Солара»).

Вслед за этим поменялся перечень того, что ИБ-служба считает каналом утечки. Почта, съёмные носители, мессенджеры были в нём годами. Диалог сотрудника с чат-ботом никак не контролировался, поэтому канал долго оставался слепой зоной. Сейчас его приходится закрывать теми же средствами и по тем же правилам, что и остальные.

Ведущий аналитик «СёрчИнформ» Андрей Головин
Фото: «СёрчИнформ»

Сильнее всего на подходы влияет экономика инцидента. По отчёту IBM Cost of a Data Breach 2026 средняя стоимость утечки достигла $4,99 млн, каждая четвёртая результативная атака была построена на ИИ, и такие атаки обходятся примерно на $1 млн дороже обычных. Дороже стал не сам взлом, а промедление: среднее время выявления и локализации выросло до 247 дней. Расходы смещаются от наращивания периметра к скорости обнаружения. Именно скорость обнаружения теперь определяет итоговую сумму.

 — Какие главные типы угроз со стороны ИИ можно выделить? Какие из них наиболее болезненные с точки зрения ущерба? Правда ли, что подавляющая доля кибератак сегодня происходит с помощью ботов?

 — Можно выделить три группы угроз. Первая – ИИ как автоматизация рутины классических атак: фишинг под конкретного адресата, быстрая сборка вредоносного кода, автоматизация разведки. Вторая группа – подмена личности через голосовые и видеодипфейки. Третья – атака на сами модели: инъекции в промпт, отравление обучающей выборки, вытягивание из модели чужих данных (OWASP LLM01 и LLM02).

Дороже всего обходится вторая группа. Число дипфейк-атак в России с начала 2025 года выросло в 26 раз, средний ущерб от одной атаки оценивается в 16 млн рублей, потери за пять месяцев 2026-го превысили 2 млрд рублей (оценки Сбербанка, приведены «Ведомостями»). Дипфейк бьёт не в инфраструктуру, а в процедуру принятия решения: бухгалтер выполняет распоряжение «руководителя», и ни одно средство защиты не срабатывает так как периметр никто не нарушал.

Тезис про боты верен наполовину. Автоматизированный трафик составляет 53 % всего веб-трафика, вредоносные боты — 40 % (Imperva/Thales Bad Bot Report 2026). Ботами закрывается массовая, дешёвая часть работы: сканирование, отработка типовых сценариев по уязвимости, парсинг данных. Такая активность даёт огромные цифры в отчётах, но отбивается штатными средствами защиты. Крупные суммы уходят в единичных сценариях, где бот только открыл дверь, а решение принимал человек.

 — Чем опасны публичные нейросети? Как бы вы сформировали памятку для безопасной работы с ними?

 — Публичный сервис опасен тем, что не проектировался как корпоративная среда. В нём нет ролевой модели доступа, нет гарантий по сроку хранения запросов, нет контроля за судьбой переданного текста. Промпт уходит на сторонние серверы, оседает в логах, может попасть в дообучение и всплыть в чужом ответе.

Памятка для безопасной работы с нейросетями укладывается в пять пунктов:

• Не отправляйте в публичную модель конфиденциальную информацию: персональные данные, коммерческую тайну, исходный код, платежные реквизиты и документы целиком;
• Обезличивайте данные перед отправкой в ИИ-модель;
• Используйте корпоративные ИИ-решения для работы с критичными данными. Они развёрнуты внутри защищённого периметра и не передают информацию вовне;
• Используйте в работе ИИ-модели из разрешенных в организации. Обращения ко всем остальным моделям не из «белого списка» фиксируются системой защиты от утечек;
• Перепроверяйте ответы нейросети у профильных специалистов. ИИ может ошибаться, и эти ошибки стоят дорого.

 — Помогают ли регуляторные меры (например, ФЗ «О поддержке развития технологий ИИ в РФ»), суверенные модели кардинальным образом снизить количество угроз?

 — Федеральный закон № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации» направлен прежде всего на развитие и поддержку отечественных технологий, а не на прямую борьбу с угрозами. Он создаёт условия для появления российских суверенных моделей. Но сами по себе суверенные модели не гарантируют безопасность, а лишь снижают риски, связанные с передачей данных иностранным провайдерам.

Реальное снижение риска возникает, когда требования закона дополняются техническими и организационными мерами: классификацией данных, разграничением доступа, журналированием запросов и действий, тестированием модели, контролем внешних подключений и обязательным подтверждением критичных операций человеком.

 — Как ИИ помогает в работе ИБ-специалистам? Какие функции службы ИБ/SOC можно автоматизировать, какие правила контроля за действиями ИИ должны соблюдаться?

 — Польза заметнее всего там, где раньше выгорал аналитик. ИИ-агенты способны обрабатывать огромные объёмы событий безопасности, выявлять аномалии и коррелировать данные из разных источников. Yandex B2B Tech сообщила об автоматизации 39 % рутинных задач ИБ-специалистов с помощью мультиагентной системы — включая мониторинг инцидентов и поиск информации по базам компании.

ИИ полезен в разумной автоматизации рутины с проверяемым результатом. Приоритизировать события ИБ, проводить первичное расследование, инвентаризацию, разметку данных и подготовку отчётности. При этом решения о блокировке пользователя, остановке бизнес-процесса, кадровых мерах или обращении в правоохранительные органы остаётся за человеком.

Для контроля за действиями ИИ необходимо соблюдать следующие правила. Во-первых, человек должен быть всегда во главе. ИИ выступает аналитиком и советником, но право принятия критического решения остаётся за человеком. Во-вторых, настроить полную фиксацию действий. Каждый запрос к ИИ-системе, каждый полученный ответ и каждое автоматическое действие должны логироваться для последующего аудита и анализа инцидентов. И, наконец, проводить регулярный пересмотр правил. Поведенческие модели, на которых обучен ИИ, устаревают, как и ландшафт угроз. Настройки автоматизации нужно пересматривать не реже раза в квартал.

 — Как ИИ внедряется в отдельные ИБ-инструменты и какой эффект приносят? Приведите, пожалуйста, примеры.

 — Прежде всего я бы пояснил, что под ИИ в ИБ обычно понимают две популярные технологии. Реализация в виде узкоспециализированного ML (машинного обучения) под задачу и реализация в виде универсальной LLM (большой языковой модели).

ML давно встроен в средства защиты и работает незаметно – в антиспаме, поведенческом анализе антивирусов и системе обнаружения целевых атак (EDR), в системе управления событиями ИБ (SIEM), антифроде, обработке изображений. Везде он отличает норму от отклонения на объеме, который человек руками не разберет.

Недавняя тенденция – применять LLM для контентного анализа в защите данных, например, в системах предотвращения утечек (DLP). Защита от утечек раньше строилась на классических методах анализа текста: регулярных выражениях, ключевых словах, атрибутах события. Все они ищут конкретное совпадение признака нарушения с заранее заданным образцом. Поэтому не могут учесть всех вариантов, в которых нарушители обсуждают «скользкие» темы, маскируют и передают данные. Но как раз ИИ, и, в частности, большие языковые модели с этим справляются.

По такому принципу мы внедрили ИИ-ассистент в свои продукты. В нашей системе защиты от утечек информации (DLP) он анализирует тональность и смысл коммуникаций сотрудников и находит скрытые инциденты. Еще одна полезная функция ИИ – выжимка из объемных переписок, когда из многочасового чата получается абзац. Ручного разбора «фактуры» для ИБ-специалистов становится меньше, суть эпизода видна быстрее. В итоге ИИ экономит время ИБ-специалистов и поднимает точность выявления инцидентов, но важно, чтобы принятие решений оставалось за человеком.

Поэтому ИИ целесообразно внедрять не как отдельного чат-бота или автономного арбитра, а как дополнительный аналитический слой внутри уже работающей системы. Дополнительно стоит помнить, что ИИ сам может стать каналом утечки, если применять для ИБ-анализа публичные облачные модели. Мы рекомендуем выбирать СЗИ, которые работают с локальными ИИ-моделями: тогда все чувствительные данные будут обрабатываться внутри корпоративного периметра.

 — Большое спасибо за беседу!