ИИ в ИБ. Изменения рынка, ИИ-угрозы и ИИ-помощники, регуляторные меры, рекомендации по безопасности, комментарии экспертов

ICT-Online.ru: Насколько существенно за последние 1-2 года под влиянием ИИ изменился рынок информационной безопасности и подходы компаний к обеспечению ИБ? В чем проявляются эти изменения?

Заместитель директора по развитию бизнеса по вопросам инноваций «АйТи Бастион» Алексей Иванов: Изменения, конечно, есть, но они преувеличены — на мой взгляд, в них больше маркетинга. Сами угрозы остались теми же — фишинг, социальная инженерия, публикации критических данных, боты и кража аккаунтов. Всё это было и до появления LLM. Искусственный интеллект только упростил этот процесс и удешевил его масштабирование. Многие функции продуктов кибербезопасности называют «ИИ», хотя речь идёт о старых методах машинного обучения, уже много лет применяемых в антифрод-системах и EDR. Слово AI стало модным на презентациях, но новых качеств обнаружения от этого не прибавляется. За громкими историями об эксплойтах нулевого дня, написанными ИИ, стоят хакеры, которые используют новые инструменты, чтобы быстрее разрабатывать вредоносное ПО — а значит, за всем разговорами о нейросетях важно не забывать и о базовых мерах безопасности.

Заместитель директора по развитию бизнеса по вопросам инноваций «АйТи Бастион» Алексей Иванов
Фото: «АйТи Бастион»

Впрочем, нельзя отрицать, что многие компании всё чаще используют языковые модели во внутренней работе. Поэтому нарастает количество продуктов для контроля корпоративного ИИ-трафика: шлюзы и DLP-решения, которые перехватывают обращения к внешним нейросетям, обезличивают персональные данные и блокируют передачу чувствительной информации.

Начальник отдела по информационной безопасности компании «Код Безопасности» Алексей Коробченко: Рынок кибербезопасности действительно претерпел довольно сильные изменения, поскольку внедрение и использование ИИ-технологий наблюдается повсеместно. С помощью нейросетей компании пишут код, анализируют большие объемы данных, выявляют сложные атаки – в общем, применяют буквально во всех сегментах ИБ.

Начальник отдела по информационной безопасности компании «Код Безопасности» Алексей Коробченко
Фото: «Код Безопасности»

При этом надо отметить, что появилось новое направление – обеспечение безопасности самих технологий искусственного интеллекта. Если раньше компании могли внедрять их ради интереса, в ограниченных масштабах, а потому не сильно задумывались о возможных угрозах, то сегодня вопрос безопасности стоит довольно остро. В частности, бизнес должен очень внимательно обращаться с корпоративными данными и информацией своих клиентов-пользователей.

Руководитель ИТ-департамента «ОБИТ» Кирилл Тимофеев: Я бы сформулировал главное изменение так: ИИ пока не перевернул рынок информационной безопасности, но он начал менять подход к защите. Еще два года назад ИИ в основном воспринимался как дополнительный инструмент, надстройка для: автоматизации поиска аномалий, обработки большого объема информации, настройке проактивного реагирования на инциденты.

Сейчас же появился принципиально новый класс защиты — ИИ-система. Особенно это заметно с появлением ИИ-агентов, которые могут выполнять автономно действия с подключением к корпоративным системам компании, базам знаний, CRM, где содержится критическая и конфиденциальная информация.

Руководитель ИТ-департамента «ОБИТ» Кирилл Тимофеев
Фото: «ОБИТ»

Поэтому главный вопрос ближайших лет — не «насколько продвинутая у нас модель», а «какие привилегии мы готовы ей дать и как минимизировать ущерб ее ошибок».

Это соответствует и нашему подходу в «ОБИТ»: мы рассматриваем информационную безопасность не как набор отдельных продуктов, а как комплекс управления рисками — от аудита до технических средств защиты и проактивного мониторинга.

Ведущий инженер-аналитик лаборатории технологий искусственного интеллекта аналитического центра кибербезопасности компании «Газинформсервис» Ирина Меженева: Рынок информационной безопасности за последние один-два года изменился существенно, и это произошло под влиянием двух встречных процессов. С одной стороны, искусственный интеллект стал массово доступен атакующим, с другой — сами защитники начали перестраивать инструменты и процессы под новую реальность. Важно сразу зафиксировать: ИИ не породил принципиально новых типов атак, но качественно изменил уже существующие, сняв ограничения, которые прежде сдерживали злоумышленников.

Ведущий инженер-аналитик лаборатории технологий искусственного интеллекта аналитического центра кибербезопасности компании «Газинформсервис» Ирина Меженева
Фото: «Газинформсервис»

Прежде всего заметно снизился порог входа. Раньше серьёзная атака требовала глубокой технической подготовки, теперь же во многих случаях достаточно быть продвинутым пользователем большой языковой модели. Фишинг, который традиционно был либо массовым и примитивным, либо штучным и дорогим, стал одновременно персонализированным и массовым: каждый запрос в рамках одной кампании может быть уникальным по форме при неизменном целевом действии. Клонирование голоса и генерация видео подешевели настолько, что оказались доступны практически любому, а разведка по открытым источникам, на которую раньше уходили дни ручной работы, теперь выполняется автоматически за считанные минуты.

Со стороны обороны ключевое изменение — это слом классического сигнатурного цикла. Сложилась парадоксальная ситуация, когда цикл обнаружения уже превышает время жизни самой атаки: пока аналитик разбирает инцидент и пишет новое правило, атака давно завершилась и перешла в новую форму. Модели машинного обучения в этом смысле гибче, поскольку оперируют паттернами в пространстве признаков, а не жёсткими индикаторами компрометации, но у этой гибкости есть оборотная сторона — модели менее надёжны из-за своей статистической природы. Поэтому рынок движется к гибридным архитектурам, где сигнатурные правила и обученные модели работают совместно и компенсируют ограничения друг друга.

Ещё один сдвиг, особенно проявившийся за последний год, касается самого характера внедрения ИИ. Компании всё чаще переходят от пилотных экспериментов и маркетинговых заявлений к встраиванию моделей в реальные процессы защиты, и это меняет требования к людям и процессам. В нашем Аналитическом центре уже внедрены элементы MLOps: мы отслеживаем дрейф данных, контролируем качество моделей и регулярно их дообучаем. Требования к квалификации ИБ-специалистов при этом растут, а фокус их работы смещается с разбора потока шума на сложные расследования, где человеческая экспертиза по-прежнему незаменима.

Ведущий аналитик «СёрчИнформ» Андрей Головин: Изменился не столько рынок, сколько формулировка задачи. Два года назад в компаниях спорили, разрешать ли сотрудникам нейросети вообще. Сейчас спор идёт о том, как именно разрешать: около 42 % организаций всё ещё блокируют генеративные модели, а 40 % ИТ— и ИБ-специалистов уже работают с ИИ как с подконтрольным ассистентом (исследование УЦСБ и «Солара»).

Ведущий аналитик «СёрчИнформ» Андрей Головин
Фото: «СёрчИнформ»

Вслед за этим поменялся перечень того, что ИБ-служба считает каналом утечки. Почта, съёмные носители, мессенджеры были в нём годами. Диалог сотрудника с чат-ботом никак не контролировался, поэтому канал долго оставался слепой зоной. Сейчас его приходится закрывать теми же средствами и по тем же правилам, что и остальные.

Сильнее всего на подходы влияет экономика инцидента. По отчёту IBM Cost of a Data Breach 2026 средняя стоимость утечки достигла $4,99 млн, каждая четвёртая результативная атака была построена на ИИ, и такие атаки обходятся примерно на $1 млн дороже обычных. Дороже стал не сам взлом, а промедление: среднее время выявления и локализации выросло до 247 дней. Расходы смещаются от наращивания периметра к скорости обнаружения. Именно скорость обнаружения теперь определяет итоговую сумму.

Консультант Отдела риск-менеджмента кибербезопасности ГК Softline (Infosecurity, входит в «Софтлайн Решения») Арина Азовцева: За последние несколько лет рынок ИБ сильно изменился из-за стремительного развития ИИ. Одним из главных изменений является рост инвестиций в ИБ. По прогнозам агентства IDC, в 2026 году расходы на обеспечение ИБ составят $308 млрд при росте около 12 % за год. К 2029 году расходы, согласно модели IDC, могут приблизиться к $430 млрд.

Консультант Отдела риск-менеджмента кибербезопасности ГК Softline
(Infosecurity, входит в «Софтлайн Решения») Арина Азовцева
Фото: ГК Softline

Помимо этого, ИИ стал серьезным орудием в руках злоумышленников. Компании перешли к внедрению специализированных LLM-шлюзов, которые осуществляют контроль информации, загружаемой в нейросеть. Кроме того, под давлением новых регуляторных требований бизнес вынужден выстраивать проактивную защиту самих моделей машинного обучения от специфических угроз. Из-за этого сформировался отдельный рынок услуг по защите ИИ-моделей.

ICT-Online.ru: Какие главные типы угроз со стороны ИИ можно выделить? Какие из них наиболее болезненные с точки зрения ущерба? Правда ли, что подавляющая доля кибератак сегодня происходит с помощью ботов?

Заместитель генерального директора компании «Перспективный мониторинг» (ГК «ИнфоТеКС») Александр Пушкин: Сейчас можно с уверенностью сказать, что ИИ-агенты могут повторить практически любую деятельность человека, которая направлена на взлом систем. ИИ-агент может реализовать всю работу нападающего от и до.

Заместитель генерального директора компании «Перспективный мониторинг»
(ГК «ИнфоТеКС») Александр Пушкин
Фото: ГК «ИнфоТеКС»

Но угроза здесь не в самом факте этого повторения, а в том, как именно оно происходит. Здесь мы можем выделить два аспекта.

Первый аспект состоит в том, что ИИ-агент — это машина, которая может действовать 24 часа в сутки без перерыва на отдых. То есть это методическая работа опытного специалиста без допущения ошибок по усталости. Таким образом, первый аспект — это постоянная, перманентная угроза, которой сложно противостоять, потому что любые специалисты, любые команды защитников функционируют всё-таки как люди — с активной фазой работы, отдыхом, ошибками, перерывами.

А второй аспект — то, что машина во многих случаях превосходит человека. ИИ-агент способен объединить в себе столько разнонаправленных навыков и умений, которые, как правило, присуще целой команде нападающих.

Когда происходит реальная компьютерная атака с участием людей, то ее проводит, как правило, не один человек, а группа. Каждый из специалистов обладает определенным навыком, он не может знать все этапы атаки на глубоком уровне. А машина может.

На горизонте пары лет получат распространения комплексные и целенаправленные атаки, авторами которых являются не группы квалифицированных специалистов, а сервис на базе ИИ-агентов. Получил доступ к подобному сервису — и вот у тебя сразу группа виртуальных сотрудников с богатым опытом и необходимыми навыками.

Что касается атак ботами, то здесь, безусловно, общее количество автоматических сканирований, попыток подбора логинов, паролей, попытка подборов эксплойтов по большей части осуществляются автоматическими инструментами. Это хорошо видно по мониторингу внешнего периметра различных организаций. Человек подключается, когда требуется точечная работа и нужны определенные действия. Поэтому атака с помощью автоматических средств, или ботов, сейчас, конечно, превалирует.

Алексей Иванов («АйТи Бастион»): Пожалуй, заслуженное первое место среди угроз по-прежнему занимают дипфейки голоса и видео. К примеру, ещё несколько лет назад в ОАЭ управляющий банком получил звонок голосом директора компании-клиента и поддельные письма от юристов якобы о сделке поглощения — в результате управляющий согласовал переводы на $35 млн.

Или случай в Retool — американском разработчике ИТ-инструментов, когда атакующие прислали сотрудникам фальшивые SMS от ИТ-отдела про «проблему с зарплатой». Один сотрудник ввёл по полученной в сообщении ссылке учётные данные, а затем выдал MFA-код клонированному голосу реального коллеги из ИТ, что позволило злоумышленникам похитить все OTP-коды Google Authenticator.

Но многие атаки теперь действительно осуществляют боты — да и в целом, до половины активности в Интернете приходится на них, и 15 % этой активности — вредоносная. Это можно напрямую связать с развитием генеративного ИИ, упростившего создание таких ботов.

Алексей Коробченко («Код Безопасности»): Я бы не стал выделять какие-то конкретные категории, потому что использование ИИ в кибератаках имеет довольно размытые черты.

Пожалуй, чаще всего злоумышленники используют искусственный интеллект для различных легенд в рамках социальной инженерии, скажем, создания правдоподобной фейковой страницы онлайн-магазина или банка, написание текста в фишинговом сообщении, сборе информации о целевой компании, а также для автоматизации отдельных этапов хакерской кампании.

Насчет ботов — это действительно так, недаром была упомянута автоматизация атак. Для большинства этапов достаточно правильно настроенных ботов, а люди, как правило, подключаются на более поздних стадиях, когда уже произошло закрепление в ИТ-инфраструктуре цели, найдены бэкапы и наиболее ценные данные.

Кирилл Тимофеев («ОБИТ»): Я бы разделил актуальные угрозы на три группы.

Первая — атаки непосредственно на ИИ. Злоумышленник пытается заставить модель нарушить заданные правила, получить доступ к закрытой информации или изменить ее поведение.

Вторая — использование ИИ для масштабирования классических атак. Например, для подготовки более убедительного персонализированного фишингового письма или создания вредоносных программ. ИИ в этом случае делает атаки дешевле, быстрее и доступнее.

Третья — атаки на автономные системы ИИ-агентов. На мой взгляд, именно это наиболее серьезный долгосрочный риск. Если ИИ имеет доступ к данным, злоумышленнику уже недостаточно просто обмануть саму модель. Ему важно добиться того, чтобы она сама совершила нужное действие.

Свежее исследование безопасности саморазвивающихся агентов Сбера говорит как раз об этом: безопасность самой модели еще не означает безопасность системы, которая на ее основе построена, и нужно учитывать меры защиты в том числе на уровне системы.

Что касается ботов, я согласен с тем, что подавляющая доля кибератак сегодня совершается автоматизированными ботам, в то время как ИИ-боты составляют лишь около 15-20 % от общего объема. Однако, по прогнозам, к 2027-2028 годам ИИ может стать главным «мозгом» для управления массовыми атаками.

Ирина Меженева («Газинформсервис»): Если говорить о том, какие угрозы принёс с собой искусственный интеллект, то их можно разделить на три группы, хотя границы между ними условны. Первая и самая заметная — усиление традиционных атак, к которым относятся персонализированный и одновременно массовый фишинг, социальная инженерия с подделкой голоса и видео, автоматизированная разведка по открытым источникам, а также генерация и постоянная модификация вредоносного кода, позволяющая обходить сигнатурные средства. Вторая группа — атаки, направленные уже не на инфраструктуру жертвы, а на сами системы искусственного интеллекта: манипуляция запросами, отравление обучающих данных и утечки информации через модели, которые эксплуатируются как «чёрный ящик». Третья группа наименее очевидна, но не менее опасна: это неконтролируемое применение ИИ внутри самой организации, когда сотрудники без ведома службы безопасности передают конфиденциальные данные в публичные сервисы.

С точки зрения реального ущерба наиболее болезненными оказываются социотехнические атаки, нацеленные на деньги. В отрасли зафиксированы случаи, когда компания теряла $25 млн после дипфейк-видеозвонка, в котором были сгенерированы лица финансового директора и коллег, а фишинг с имитацией голоса сотрудника приводил к убыткам в $100 млн. Такие атаки бьют напрямую в финансовый контур, эксплуатируют доверие людей и почти не оставляют технических следов, которые можно было бы перехватить классическими средствами защиты.

Теперь о расхожем тезисе, будто подавляющая доля кибератак сегодня совершается ботами. Это упрощение, в котором есть рациональное зерно, но которое стоит уточнить. Ботнеты и автоматизированные инструменты существовали задолго до нынешнего бума нейросетей, поэтому сам по себе тезис об автоматизации не нов. Новое появилось в другом: искусственный интеллект сделал автоматизацию кастомизируемой. Поэтому корректнее говорить, что подавляющая доля атак сегодня автоматизирована, а ИИ снял то самое ограничение «массовое — значит примитивное», которое долгие годы помогало защитникам отделять рядовые атаки от целевых.

Андрей Головин («СёрчИнформ»): Можно выделить три группы угроз. Первая – ИИ как автоматизация рутины классических атак: фишинг под конкретного адресата, быстрая сборка вредоносного кода, автоматизация разведки. Вторая группа – подмена личности через голосовые и видеодипфейки. Третья – атака на сами модели: инъекции в промпт, отравление обучающей выборки, вытягивание из модели чужих данных (OWASP LLM01 и LLM02).

Дороже всего обходится вторая группа. Число дипфейк-атак в России с начала 2025 года выросло в 26 раз, средний ущерб от одной атаки оценивается в 16 млн рублей, потери за пять месяцев 2026-го превысили 2 млрд рублей (оценки Сбербанка, приведены «Ведомостями»). Дипфейк бьёт не в инфраструктуру, а в процедуру принятия решения: бухгалтер выполняет распоряжение «руководителя», и ни одно средство защиты не срабатывает так как периметр никто не нарушал.

Тезис про боты верен наполовину. Автоматизированный трафик составляет 53 % всего веб-трафика, вредоносные боты — 40 % (Imperva/Thales Bad Bot Report 2026). Ботами закрывается массовая, дешёвая часть работы: сканирование, отработка типовых сценариев по уязвимости, парсинг данных. Такая активность даёт огромные цифры в отчётах, но отбивается штатными средствами защиты. Крупные суммы уходят в единичных сценариях, где бот только открыл дверь, а решение принимал человек.

Арина Азовцева (Infosecurity): Да, насчет ботов – это чистая правда. Сегодня многие атаки полностью автоматизированы. ИИ-боты работают в режиме 24/7, адаптируясь под конкретную жертву. Среди главных типов угроз можно выделить умный фишинг и дипфейки. Если раньше фишинговые сообщения можно было распознать по грамматическим ошибкам и явным подменам, то теперь ИИ анализирует переписку и генерирует персонализированные письма, не вызывающие подозрений. Особенно опасны сценарии, когда злоумышленники используют поддельный голос руководителя для требования срочного перевода средств. Межсетевые экраны и антивирусы в таких случаях бессильны, поскольку атака направлена на людей. Часто одно такое ИИ-письмо становится точкой входа для вируса-шифровальщика, который затем парализует работу компании на длительный срок.

Другой тип угроз связан с операционными сбоями и галлюцинациями ИИ. Часто модели генерируют правдоподобную, но ложную информацию. Если использовать ИИ для создания юридических, медицинских и финансовых документов без последующей проверки человеком, это может привести к репутационным потерям, юридическим последствиям и прямым финансовым убыткам.

Также угрозу представляет утечка конфиденциальных данных, которая может происходить как через скомпрометированные модели, так и через ошибки в обработке данных.

ICT-Online.ru: Чем опасны публичные нейросети? Как бы вы сформировали памятку для безопасной работы с ними?

Алексей Иванов («АйТи Бастион»): Опасность не в самой нейросети, как в технологии, а в неуправляемости. Сотрудники воспринимают чат-бот как черновик в блокноте, часто не осознавая возможную передачу данных «наружу», как в недавнем кейсе с увольнением топ-менеджера московской фирмы. Ощущая пользу от ИИ, они воспринимают жёсткий запрет как попытку помешать продуктивной работе и переходят на «теневой ИИ». Мы получаем те же промпты с личных устройств, но уже без всякой видимости для ИБ-службы.

Поэтому памятку для персонала нужно выстраивать как внедрение безопасного контура — дать легальную альтернативу сотрудникам в виде корпоративного ИИ-шлюза, объединяющего несколько моделей в заданных условиях безопасности, где можно выполнять рабочие задачи.

Тогда чек-лист может выглядеть следующим образом:

• Соответствовать чёткому перечню того, что нельзя вносить никуда, кроме внутреннего контура: ПДн, финансы, договоры, код DNA, учётные данные и др.
• Применять обезличивание — имена, почты, адреса и названия компаний заменять плейсхолдерами.
• Не доверять ответам без проверки — галлюцинации нейросети в юридических и финансовых вопросах могут очень дорого обойтись. Как вариант — требовать от нейросети подтверждения в виде ссылок на реальные нормативные акты и статьи.
• Оформлять минимальные привилегии на аккаунтах ИИ-сервисов.
• Применять мониторинг через DLP/прокси — как контроль соответствия политике безопасности, а не «слежку».

Алексей Коробченко («Код Безопасности»): Главный риск нейросетей, как и любого публичного сервиса, – утечка информации. Поэтому при работе с ними есть железное правило – не загружать чувствительные, конфиденциальные данные.

Кирилл Тимофеев («ОБИТ»): Мы регулярно проводим обучение сотрудников по вопросам информационной безопасности. Поэтому и к теме ИИ стараемся подходить не с позиции запретов, а более конструктивно: показываем, где технология действительно может быть полезна для разных подразделений и как использовать ее осознанно и безопасно.

Например, на одном из обучений юридический отдел показывал, как можно работать с публичной нейросетью, предварительно обезличив документ и удалив из него конфиденциальную информацию. Такой подход позволяет сотрудникам самостоятельно находить полезные для себя сценарии применения ИИ и при этом учитывать все риски.

Параллельно мы развиваем собственный спектр корпоративных ИИ-сервисов, которые постепенно закрывают наиболее востребованные задачи сотрудников и позволяют работать с ИИ в контролируемой среде. Очень важно предлагать сотрудникам безопасную корпоративную альтернативу.

Если попробовать составить методичку, она может быть универсальная с базовыми правилами по типу «нельзя передавать во внешнюю нейросеть персональные данные, коммерческую тайну, клиентские базы, пароли», «критически важную информацию необходимо проверять» и т.д., но, на мой взгляд, более эффективным тут будет методичка для каждого конкретного отдела\специализации, потому что они могут использовать разные сервисы.

Ирина Меженева («Газинформсервис»): Публичные нейросети опасны по двум причинам, и обе связаны с тем, что пользователь теряет контроль над своими данными и над достоверностью результата. Первая — это утечки. Всё, что отправляется во внешний сервис, фактически уходит за пределы контура организации, и это касается не только очевидно секретных документов, но и, казалось бы, безобидных запросов сотрудников, которые могут содержать фрагменты персональных данных, коммерческой тайны или исходного кода. ИБ-специалисты оценивают риск утечки конфиденциальных данных при использовании ИИ сотрудниками как высокий.

Вторая причина — галлюцинации и непроверяемые выводы. По оценкам, в 2024 году глобальные потери из-за галлюцинаций нейросетей составили $67,4 млрд, и это наглядный показатель того, насколько опасно полагаться на ответы модели в вопросах, от которых зависят решения и деньги. Проблема усугубляется тем, что галлюцинация выглядит так же уверенно, как корректный ответ, и неспециалист зачастую не в состоянии их различить. Отдельно стоит сказать о теневом использовании, которое часто упускают из виду: жёсткий запрет на внешние нейросети обычно не устраняет риск, а лишь переводит его в неконтролируемую зону, когда сотрудники начинают пользоваться публичными сервисами с личных устройств и служба безопасности теряет видимость. Поэтому правильная стратегия — не запрещать, а управляемо внедрять.

Памятку безопасной работы с публичными нейросетями я бы сформулировала вокруг одного сквозного принципа — минимального доверия и минимального раскрытия. На практике это означает, что в запрос не должна попадать конфиденциальная информация: персональные данные, коммерческую тайну, исходный код и учётные данные лучше либо не передавать вовсе, либо предварительно обезличивать. Работать стоит только через разрешённые сервисы и корпоративные инсталляции, а не через первый попавшийся публичный инструмент. Любой полученный результат следует воспринимать как черновик и сверять его с проверенными источниками, прежде чем использовать в работе. Контекст запроса полезно намеренно сужать, чтобы модель не получала лишних данных. И наконец, модели нельзя доверять решения, от которых зависят деньги или безопасность, — финальный выбор всегда за человеком, а обо всех сомнительных ситуациях правильнее сообщать в службу информационной безопасности, а не решать их в обход правил.

Андрей Головин («СёрчИнформ»): Публичный сервис опасен тем, что не проектировался как корпоративная среда. В нём нет ролевой модели доступа, нет гарантий по сроку хранения запросов, нет контроля за судьбой переданного текста. Промпт уходит на сторонние серверы, оседает в логах, может попасть в дообучение и всплыть в чужом ответе.

Памятка для безопасной работы с нейросетями укладывается в пять пунктов:

• Не отправляйте в публичную модель конфиденциальную информацию: персональные данные, коммерческую тайну, исходный код, платежные реквизиты и документы целиком;
• Обезличивайте данные перед отправкой в ИИ-модель;
• Используйте корпоративные ИИ-решения для работы с критичными данными. Они развёрнуты внутри защищённого периметра и не передают информацию вовне;
• Используйте в работе ИИ-модели из разрешенных в организации. Обращения ко всем остальным моделям не из «белого списка» фиксируются системой защиты от утечек;
• Перепроверяйте ответы нейросети у профильных специалистов. ИИ может ошибаться, и эти ошибки стоят дорого.

Арина Азовцева (Infosecurity): Большой проблемой для многих компаний сейчас является теневой ИИ – многие сотрудники используют публичные нейросети для работы без официального одобрения и контроля со стороны ИТ-отдела, службы информационной безопасности и руководства. Это создает прямую угрозу утечки конфиденциальных данных. Запрещать и блокировать использование нейросетей бессмысленно, поскольку сотрудники всегда найдут обходный путь.

Помимо внедрения технических мер защиты, таких как LLM-шлюзы, важно, чтобы коллектив компании понимал основные правила работы с ИИ. В промпты нельзя вносить непубличную информацию, особенно пароли, базы данных работников, код и черновики документов. Любые цифры, ссылки на законы и медицинские советы от ИИ нужно обязательно перепроверять вручную, иначе можно принять решение на основе галлюцинаций. То же самое с написанием кода или скрипта: перед тем, как их использовать в рабочем продукте, стоит показать коллегам и провести проверку, иначе существует риск случайно занести в рабочую среду чужие ошибки или уязвимости. И не стоит использовать личные бесплатные аккаунты для рабочих задач – только корпоративные Enterprise-версии, в которых вендор юридически гарантирует, что данные не пойдут в обучение публичной модели.

ICT-Online.ru: Помогают ли регуляторные меры и суверенные модели кардинальным образом снизить количество угроз? Какие еще меры комплексной защиты можно рекомендовать заказчикам для защиты от «ИИ-хакеров»?

Алексей Иванов («АйТи Бастион»): Закон задаёт требования к обработке данных, ответственности и локализации, — это, в свою очередь, подталкивает появление отечественных enterprise-решений. Однако фактическая защита продолжает оставаться уделом ИБ. Суверенные и локальные модели убирают риск утечки за периметр юрисдикции, но технически модель не становится безопаснее — она будет оставаться уязвимой в случае некорректной настройки и внедрения. К тому же, у локального решения часто может не быть большой команды безопасности, prompt injection в собственных ИИ-продуктах, политики допустимого использования ИИ, плюс технический контроль (DLP/CASB) и поведенческая аналитика (UEBA).

Регулирование определённо полезно как драйвер зрелости, но кардинальных изменений пока ждать не стоит. Решение заключается в комплексе мер со стороны заказчика: тренинги против дипфейков и социнженерии («звонок от директора» подтверждаем обратным звонком на известный номер), MFA и принцип наименьших привилегий, с чем поможет PAM-система, а также пентесты и red-team с ИИ-сценариями.

Кирилл Тимофеев («ОБИТ»): Суверенные модели, если мы говорим про положения Федерального закона №243-ФЗ, обладают некоторым преимуществом с точки зрения локального развертывания, размещения данных и независимости от зарубежных поставщиков, но параметры ее безопасности, безопасной разработки пока не ясны и, возможно, только будут определены.

На мой взгляд, регулятор предпринимает важные шаги для создания безопасной среды работы с ИИ, но не меньшую, если не первоочередную роль, конечно, играют действия на уровне компаний по части обеспечения безопасности. Поэтому заказчикам я бы рекомендовал комплексный подход:

1. понимать, какие ИИ-сервисы используются в компании и какие данные с ними работают;
2. четко разделять информацию, которую можно передавать ИИ, и ту, которую передавать нельзя;
3. использовать многофакторную аутентификацию и минимально необходимые права доступа;
4. изолировать ИИ-системы, которые имеют доступ к корпоративным данным;
5. проверять их безопасность до запуска и регулярно тестировать после внедрения;
6. контролировать действия ИИ так же, как действия пользователей;
7. предусмотреть возможность быстро отключить систему, если она начинает работать некорректно;
8. продолжать обучение сотрудников — уже не только основам информационной безопасности, но и грамотной работе с ИИ.

Ирина Меженева («Газинформсервис»): Вопрос о том, способны ли регуляторные меры и суверенные модели кардинально снизить количество угроз, требует честного ответа: сами по себе — нет, но без них выстроить управляемую защиту невозможно. Регуляторика задаёт правила игры и распределяет ответственность, однако она не устраняет угрозы как таковые. Здесь уместна метафора, которую использует наш Аналитический центр: автомобиль безопасен не только потому, что хорошо сконструирован, — безопасность создаёт вся экосистема вокруг него, включая правила дорожного движения, подготовку водителя, дорожную инфраструктуру и органы контроля. В сфере искусственного интеллекта такая экосистема пока только формируется, и закон о поддержке развития технологий ИИ — один из первых её элементов. Ждать от него моментального снижения числа угроз было бы наивно, но он очерчивает контур, внутри которого риски становятся управляемыми.

Суверенные модели в этом смысле дают более ощутимый практический эффект. Они обучаются на локальных, релевантных данных и отражают реальные условия эксплуатации, а не абстрактный усреднённый интернет, что заметно повышает качество их работы в отечественных реалиях. Кроме того, они остаются внутри национального и корпоративного контура, и это снимает значительную часть риска утечки данных за рубеж — как раз того риска, который делает публичные зарубежные нейросети опасными для бизнеса. При этом не стоит обольщаться: суверенность не отменяет ни галлюцинаций, ни уязвимостей самой модели.

Что действительно нужно заказчику, чтобы защититься от злоумышленников, вооружённых искусственным интеллектом, это комплексный, многоуровневый подход, где ни одна мера не работает в одиночку. В основе всего лежит киберграмотность: сотрудники остаются главной мишенью социотехники, и их нужно учить распознавать современный фишинг и дипфейки, а не признаки вчерашних атак вроде опечаток. Поверх этого выстраиваются технические меры — многофакторная аутентификация и строгое управление доступом, которые сдерживают компрометацию учётных записей. Отдельное направление — проверка защищённости с учётом ИИ-сценариев, когда пентест и редтиминг направлены не только на инфраструктуру, но и на сами системы искусственного интеллекта. Полезно также оценивать зрелость защиты: наш центр разработал опросник для самообследования, который помогает специалисту понять границы своей ответственности и определить, чего не хватает для выстраивания надёжного контура вокруг ИИ-систем. Наконец, необходимо опираться на отраслевые стандарты безопасного внедрения ИИ, включая известные практики вроде OWASP Top 10 for LLM, и строить гибридную защиту, в которой сигнатурные правила и обученные модели дополняют друг друга и подкреплены контуром обратной связи, без которого любая модель за несколько месяцев деградирует до уровня устаревшей сигнатуры.

Андрей Головин («СёрчИнформ»): Федеральный закон № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации» направлен прежде всего на развитие и поддержку отечественных технологий, а не на прямую борьбу с угрозами. Он создаёт условия для появления российских суверенных моделей. Но сами по себе суверенные модели не гарантируют безопасность, а лишь снижают риски, связанные с передачей данных иностранным провайдерам.

Реальное снижение риска возникает, когда требования закона дополняются техническими и организационными мерами: классификацией данных, разграничением доступа, журналированием запросов и действий, тестированием модели, контролем внешних подключений и обязательным подтверждением критичных операций человеком.

Арина Азовцева (Infosecurity): Регуляторные меры всегда догоняют технологии, а ИИ развивается слишком быстро, законодательство не успевает охватывать все возникающие риски. Суверенные нейросети, такие как GigaChat или YandexGPT, хранят данные внутри страны и корпоративного периметра, что упрощает соблюдение комплаенс-требований. Но хакерам не принципиально, какую модель использовать для генерации фишинговых сообщений, поэтому угроза сохраняется независимо от используемой платформы.

Реальная защита требует комплексного подхода, где технологии работают вместе с людьми.

Сейчас массово внедряются LLM-шлюзы. Это прокси-серверы, которые стоят между сотрудниками и нейросетями. Они в режиме реального времени фильтруют промпты, удаляя чувствительную информацию до ее отправки вендору, а также блокируют попытки инъекций, если злоумышленник через внедренного бота пытается получить доступ к внутренним документам.

Классическая многофакторная аутентификация (MFA) уже не является достаточной защитой. ИИ-боты могут инициировать массовую рассылку уведомлений, пока уставший сотрудник ошибочно не нажмет «подтвердить». Системы нового поколения анализируют не на факт ввода кода, а то, как человек работает: с какой скоростью печатает, как двигает мышкой, под каким углом держит смартфон. ИИ-агент или скрипт, работающий удаленно, не способен воспроизвести такие микродвижения, поэтому система прерывает подозрительную сессию.

Также должен быть внедрен подход Zero Trust – «не доверять никому и ничему внутри сети». Помимо этого, рекомендуется использовать защитные решения на базе ИИ, которые сами анализируют поведение пользователей и блокируют аномалии в реальном времени.

Классический пентест не выявляет уязвимости к атакам с использованием ИИ, таким как инъекции промптов или социальная инженерия с применением дипфейков. При моделировании атак целесообразно применять те же инструменты на основе ИИ, которые могут использовать злоумышленники.

ICT-Online.ru: Как ИИ помогает в работе ИБ-специалистам? Какие функции службы ИБ/SOC можно автоматизировать, какие правила контроля за действиями ИИ должны соблюдаться?

Александр Пушкин («Перспективный мониторинг»): Так как ИИ эффективно действует в пользу нарушителя, что подтверждено на практике, то, конечно, ведется много работы для внедрения ИИ на сторону защиты. В целом границ здесь нет, ИИ так же может выполнять все задачи, которые возлагаются на SOC-центры — это и первичное выявление, это и расследования, когда задействовано несколько объектов, на которые происходило воздействие, и, конечно же, реагирование.

ИИ-агенты здесь могут применяться для инвентаризации активов организации, для постоянного сканирования внешнего периметра. Кроме того, ИИ применяется для автоматизированного сбора и оценки необходимых элементов для расследования, для разработки мер реагирования, плейбуков, для быстрого получения справок по угрозам, которые только появились.

К сожалению, нарушитель в плане использования ИИ находится в более выгодной позиции. У него руки развязаны: неудачное действие машины во время попытки эксплуатации какой-то уязвимости, которое приведет к неработоспособности системы, для него не так критично, как для специалистов Центра мониторинга. Поэтому искусственному интеллекту защитники доверяют очень немногое в области реагирования и при принятии мер по защите действия машины тщательно проверяют.

Но это все до поры до времени, потому что скорость, с которой действует нападающий на базе ИИ, неизбежно растет, она уже сейчас заметно выше скорости реагирования. И поэтому, чтобы принимать активные шаги для отражения атаки, рано или поздно придется довериться искусственному интеллекту. Только машина сможет справиться с машиной.

Алексей Иванов («АйТи Бастион»): В SIEM/SOAR ИИ-корреляция и приоритезация сокращают время реакции — офицер безопасности получает не тысячу аллертов, а десяток инцидентов с готовым контекстом. В EDR/XDR поведенческий анализ вместо сигнатур ловит атаки нулевого дня по аномалиям цепочек процессов. В почтовой безопасности анализ стиля, тональности и метаданных ловит BEC-письма без вредоносных вложений. В PAM аналитика аномального поведения привилегированных пользователей — в СКДПУ НТ, к примеру. Ассисенты-копайлоты, которые отвечают на вопросы по инфраструктуре языком рядового пользователя и пишут запросы за аналитика (Microsoft Security Copilot, к примеру). Российская специфика в том, что копайлоты у нас, в основном, в анонсах и пилотах, но классический ML внедрён достаточно давно и уже хорошо себя зарекомендовал.

Алексей Коробченко («Код Безопасности»): И «темная», и «светлая» стороны, строго говоря, используют одни и те же технологии. И нейросети здесь не исключение. В основном специалисты по кибербезопасности применяют искусственный интеллект в двух сегментах своей деятельности: анализе данных и автоматизации рутинных действий. Первый сегмент занимает особое положение, поскольку позволяет значительно повысить эффективность работы средств защиты информации. Например, в NGFW «Континент 4» от «Кода Безопасности» используется модуль поведенческого анализа, который анализирует характеристики и параметры сетевого трафика в онлайн-режиме, что позволяет мгновенно обнаруживать потенциальные атаки. При этом модуль самообучается, и, если каких-то параметров трафика нет в шаблонах, но его характеристики кажутся подозрительными, ИИ его заблокирует.

Также нейросети активно применяются в написании различных текстов, справок и плейбуков (сценариев реагирования на инциденты), причем в последнем случае степень автоматизации весьма широка: ИИ может предложить специалисту несколько вариантов действий, а может отработать самостоятельно, при этом ИБ-сотруднику останется только проконтролировать корректность исполнения.

Но все же важно понимать, что нейросети остаются всего лишь вспомогательными инструментами, и полная автоматизация кибербезопасности если и возможна, то очень нескоро.

Почему? Во-первых, кибербезопасность – это комплексная история. Можно установить лучшие средства защиты, отладить ИИ-инструменты до безупречности и просто контролировать работу всей системы, попивая кофе, но рано или поздно злоумышленник проникнет в твою ИТ-инфраструктуру. Потому что ты не написал политики безопасности для сотрудников компании, и один из топ-менеджеров установил пароль Qwerty123. Забыл ты и про инструменты комплаенса, которые не позволили бы в принципе установить такой пароль. Так что одни только продвинутые решения не обеспечат безопасность – это всегда сочетание технологий и организационных мер, в том числе скрупулезного написания методичек, политик безопасности, проведения регулярных киберучений и так далее.

Во-вторых, кибербезопасность – это процесс, который не имеет конца. Можно построить идеальную систему (в теории), учесть и актуальные технологии, и необходимые организационные меры, но однажды поставщик твоего ПО выкатит новое обновление, в котором хакеры обнаружат уязвимость нулевого дня. И здесь будут работать уже другие механизмы безопасности и мониторинга, которые тоже важно учитывать.

Ирина Меженева («Газинформсервис»): Главная ценность искусственного интеллекта для специалистов по информационной безопасности сегодня — снятие рутины с аналитика, то есть массы однотипной работы. По разным оценкам, до 60-80 % алертов от SIEM-систем составляет шум, и это подтверждается нашими собственными наблюдениями. Автоматизация через SOAR и ML-модели уже сейчас позволяет обрабатывать до 25-30 % типовых инцидентов: аналитик не проводит расследование с нуля, а проверяет рекомендации модели, и время обработки рядовой карточки сокращается в разы.

Набор задач, которые разумно отдавать ИИ, уже вполне очерчен. Модель хорошо справляется с первичным триажем и приоритизацией алертов, обогащением их контекстом, дедупликацией событий, суммаризацией инцидентов и построением таймлайна. Ей по силам подготовка черновиков отчётов, сопоставление с матрицей MITRE ATT&CK, поиск похожих кейсов и подсказка следующего шага по плейбуку. Но границы здесь строгие и принципиальные: события высокой критичности автоматически не обрабатываются никогда, а автозакрытие допустимо лишь для низкоприоритетных событий в зоне высокой уверенности модели.

Правила контроля за действиями ИИ вытекают из понимания его статистической природы. Последнее слово всегда остаётся за человеком, и модель выступает ассистентом аналитика, а не его заменой. Решения модели должны быть интерпретируемыми — специалист вправе требовать объяснения, на основании каких данных сделан тот или иной вывод. Необходима постоянная валидация на реальных вердиктах, когда прогноз модели сопоставляется с итоговым решением аналитика, а модель дообучается на новых данных. Обязателен мониторинг дрейфа данных, позволяющий вовремя заметить, что модель устарела и её пора переобучать, а также оценка неуверенности модели для ситуаций, когда она сталкивается с паттерном, отсутствовавшим в обучающей выборке. Наконец, действует принцип нулевого доверия: все действия модели логируются с полным контекстом, а у системы есть возможность отката и своего рода аварийный рубильник. Помимо этого, классические компетенции в области ИБ никуда не уходят: без них специалист просто не сможет отличить корректную работу модели от уверенной галлюцинации.

Андрей Головин («СёрчИнформ»): Польза заметнее всего там, где раньше выгорал аналитик. ИИ-агенты способны обрабатывать огромные объёмы событий безопасности, выявлять аномалии и коррелировать данные из разных источников. Yandex B2B Tech сообщила об автоматизации 39 % рутинных задач ИБ-специалистов с помощью мультиагентной системы — включая мониторинг инцидентов и поиск информации по базам компании.

ИИ полезен в разумной автоматизации рутины с проверяемым результатом. Приоритизировать события ИБ, проводить первичное расследование, инвентаризацию, разметку данных и подготовку отчётности. При этом решения о блокировке пользователя, остановке бизнес-процесса, кадровых мерах или обращении в правоохранительные органы остаётся за человеком.

Для контроля за действиями ИИ необходимо соблюдать следующие правила. Во-первых, человек должен быть всегда во главе. ИИ выступает аналитиком и советником, но право принятия критического решения остаётся за человеком. Во-вторых, настроить полную фиксацию действий. Каждый запрос к ИИ-системе, каждый полученный ответ и каждое автоматическое действие должны логироваться для последующего аудита и анализа инцидентов. И, наконец, проводить регулярный пересмотр правил. Поведенческие модели, на которых обучен ИИ, устаревают, как и ландшафт угроз. Настройки автоматизации нужно пересматривать не реже раза в квартал.

Арина Азовцева (Infosecurity): Для специалистов по информационной безопасности ИИ стал инструментом, который берет на себя рутинные задачи. Применение нейросетей в SOC позволяет сократить объем ложных срабатываний и автоматизировать обработку инцидентов: система фильтрует ложные тревоги и блокирует очевидные атаки в реальном времени без участия человека.

Моделям также можно поручать реагирование на типовые угрозы: если система видит сканирование портов или брутфорс, она сама способна заблокировать IP-адрес или временно изолировать скомпрометированный хост в автономном режиме. Кроме того, нейросети удобно применять для автоматической генерации отчетов и дашбордов.

Вместе с тем, нельзя предоставлять ИИ полную свободу действий, особенно при принятии критически важных решений. ИИ – это просто вспомогательный инструмент и окончательное решение всегда должно оставаться за человеком.

ICT-Online.ru: Как ИИ внедряется в отдельные ИБ-инструменты и какой эффект приносит? Приведите, пожалуйста, примеры.

Александр Пушкин («Перспективный мониторинг»): В первую очередь это системы управления выявлением компьютерных атак и реагирования, такие как SIEM, SOAR, IRP. Туда производители включают и ассистента на базе ИИ, и более активные механизмы по корреляции событий.

Конкретные примеры приведу на деятельности нашей компании. У «Перспективного мониторинга» большой опыт в разработке баз решающих правил — более 10 лет. У нас активно идет внедрение ИИ в процесс разработки и совершенствования сигнатурных правил. Машина формирует правила для сетевых и хостовых средств защиты, а наши специалисты проводят их валидацию. За счет этого скорость и качество обработки новых угроз возрастает.

Второй наш продукт, где искусственный интеллект применяется в связке с классическим машинным обучением — это AML Web Protection, система для выявления атак на веб-ресурсы и реагирования на них. Это полноценный виртуальный сотрудник, который берет задачу обнаружить и заблокировать атаки. Здесь вмешательство человека не требуется, можно осуществлять периодический контроль, но машина сама делает все необходимые действия для обнаружения угроз, определения их критичности для защищаемого ресурса и принятия мер к блокировке нарушителей без участия человека.

Алексей Коробченко («Код Безопасности»): ИИ внедряется если не во все сегменты ИБ-инструментов, то в большинство, поскольку нейросети действительно показывают высокую эффективность.

Один из самых показательных сегментов – решения класса DLP, где за счет использования нейросетей существенно улучается контекстный анализ данных. Благодаря ИИ, атаки отлавливаются не столько по сигнатурам, то есть известным параметрам, характерным для той или иной атаки, сколько по контексту. Иными словами, анализируется более масштабный объем критериев, что существенно снижает количество ложных срабатываний. Кроме того, ИИ-инструменты помогают формировать портрет каждого конкретного пользователя, что позволяет обнаружить его компрометацию уже на ранних стадиях.

Ирина Меженева («Газинформсервис»): Искусственный интеллект сегодня проникает практически во все классы средств защиты информации, хотя процесс идёт неравномерно, но неуклонно. В SIEM-системах и платформах расширенной аналитики модели выявляют аномалии и сложные многошаговые атаки, в SOAR-решениях автоматизируют плейбуки реагирования, в EDR и NTA отвечают за поведенческий анализ конечных точек и сетевого трафика, а в системах класса UEBA отслеживают отклонения в поведении пользователей и сущностей. Отдельным направлением стала проверка кода, сгенерированного языковыми моделями, которая встраивается в процесс безопасной разработки.

Наш собственный опыт это подтверждает. Разработки на базе искусственного интеллекта для задач расширенной аналитики ведутся в «Газинформсервисе» с 2018 года: за это время созданы уникальные анализаторы для обнаружения аномалий и атак (сюда можно отнести например усиление SQL-Firewall'a в СУБД Jatoba компонентами с функциями ML/AI), накоплены большие объёмы собственных размеченных данных и выстроена собственная система MLSecOps. Параллельно развивается SafeERP, который проверяет безопасность кода, в том числе, разумеется, и написанного нейросетью, и встраивает эту проверку в конвейер безопасной разработки. В центре мониторинга GSOC модели помогают аналитикам быстрее выявлять и разбирать инциденты, а лаборатория исследований кибербезопасности развивает киберполигон и тестирует защищённость самих ИИ-систем.

Главный вопрос, который задаёт заказчик, — какой эффект это даёт на практике. Самая честная метрика — объём рутины, снятой с аналитика, при условии, что не выросли пропуски. В наших наблюдениях: модель помечает 75 % потока как ложные срабатывания, и аналитики подтверждают 82 % этих оценок. Для бизнеса это означает, что один аналитик с помощью модели обрабатывает объём работы, на который раньше требовалось четверо, а 50 % потока закрывается почти автоматически. При этом обязательно отслеживать и негативный результат. Даже 2 % пропусков в зоне высокой уверенности модели, формально сопоставимые с человеческой ошибкой, неприемлемы, когда речь идёт о критичных инцидентах. Именно поэтому модель остаётся только помощником и именно поэтому человеческая экспертиза — то, что невозможно заменить.

Андрей Головин («СёрчИнформ»): Прежде всего я бы пояснил, что под ИИ в ИБ обычно понимают две популярные технологии. Реализация в виде узкоспециализированного ML (машинного обучения) под задачу и реализация в виде универсальной LLM (большой языковой модели).

ML давно встроен в средства защиты и работает незаметно – в антиспаме, поведенческом анализе антивирусов и системе обнаружения целевых атак (EDR), в системе управления событиями ИБ (SIEM), антифроде, обработке изображений. Везде он отличает норму от отклонения на объеме, который человек руками не разберет.

Недавняя тенденция – применять LLM для контентного анализа в защите данных, например, в системах предотвращения утечек (DLP). Защита от утечек раньше строилась на классических методах анализа текста: регулярных выражениях, ключевых словах, атрибутах события. Все они ищут конкретное совпадение признака нарушения с заранее заданным образцом. Поэтому не могут учесть всех вариантов, в которых нарушители обсуждают «скользкие» темы, маскируют и передают данные. Но как раз ИИ, и, в частности, большие языковые модели с этим справляются.

По такому принципу мы внедрили ИИ-ассистент в свои продукты. В нашей системе защиты от утечек информации (DLP) он анализирует тональность и смысл коммуникаций сотрудников и находит скрытые инциденты. Еще одна полезная функция ИИ – выжимка из объемных переписок, когда из многочасового чата получается абзац. Ручного разбора «фактуры» для ИБ-специалистов становится меньше, суть эпизода видна быстрее. В итоге ИИ экономит время ИБ-специалистов и поднимает точность выявления инцидентов, но важно, чтобы принятие решений оставалось за человеком.

Поэтому ИИ целесообразно внедрять не как отдельного чат-бота или автономного арбитра, а как дополнительный аналитический слой внутри уже работающей системы. Дополнительно стоит помнить, что ИИ сам может стать каналом утечки, если применять для ИБ-анализа публичные облачные модели. Мы рекомендуем выбирать СЗИ, которые работают с локальными ИИ-моделями: тогда все чувствительные данные будут обрабатываться внутри корпоративного периметра.

Арина Азовцева (Infosecurity): ИИ активно внедряется во многие инструменты ИБ. Классические антивирусы уже не обеспечивают достаточного уровня защиты, поскольку злоумышленники используют методы обхода сигнатурного анализа. В EDR— и XDR-решениях ИИ оценивает не сам файл, а его поведение в системе, и при выявлении подозрительной активности способен оперативно приостанавливать выполнение процесса. В SIEM-системах применение ИИ позволяет автоматизировать обработку событий: модель связывает разрозненные инциденты в единую цепочку атаки и выявляет аномалии, которые могли бы остаться незамеченными при ручном анализе. В DLP-системах ИИ анализирует корпоративные коммуникации и передаваемые файлы, обнаруживая сложные инциденты, не выявляемые стандартными средствами.

Внедрение ИИ в файерволы – это, наверное, самый наглядный пример того, как технологии безопасности эволюционируют от «разрешить/запретить» к умному анализу. ИИ в данном случае анализирует все запросы, находит в них конфиденциальные и персональные данные, к которым пользователь не должен иметь доступ. В результате конфиденциальная информация маскируется или доступ к запросу отменяется.

ICT-Online.ru: Большое спасибо за беседу!