Orion soft разработал платформу для безопасной работы с AI

Рост использования генеративного ИИ в корпоративной среде формирует новый класс инфраструктурных и ИБ-рисков. По данным независимого исследования К2 Кибербезопасности и «Лаборатории Касперского», искусственный интеллект уже влияет на непрерывность бизнеса и почти половина (43%) корпораций заявляют, что недоступность ИИ-сервисов приведет к потерям (32% — к умеренным, 11% — к критическим).  Поэтому уже четверть компаний считают, что безопасность ИИ входит в ТОП-5 приоритетов бизнеса. На сегодняшний день только 22% выделили на это отдельный бюджет и 61% компаний стремятся контролировать использование сотрудниками сторонних ИИ-сервисов, но испытывают технологические и организационные сложности. Реальный контроль реализован лишь в 29% компаний. Остальные организации либо ограничиваются пассивным мониторингом (47%), либо блокируют доступ к сервисам (24%). 

StarGuard AI от Orion soft выступает в роли reverse proxy-шлюза между пользователями, корпоративными системами и языковыми моделями. Решение помогает компаниям не запрещать использование ИИ, а безопасно встроить его в рабочие процессы: контролировать, кто и какие модели использует, какие данные отправляются в LLM и какие ответы возвращаются пользователям. 

StarGuard AI анализирует каждый запрос и ответ с помощью многослойной системы детекции, включающей ML-модели для выявления чувствительных данных, а также LLM-детекторы контекста, jailbreak- и prompt-инъекций. Платформа помогает блокировать токсичный, запрещенный или нецелевой контент в AI-чатах, HR-ассистентах, сервисах поддержки и корпоративных помощниках. Тем самым, снижает репутационные риски во внутренних и клиентских AI-сервисах.

Решение обеспечивает не только безопасность, но и централизованное управление доступом к разным языковым моделям. Решение позволяет подключать через единый шлюз облачные и локальные LLM, включая ChatGPT, Claude, DeepSeek, GigaChat, YandexGPT, а также любые локальные модели. 

В отличие от решений, использующих forward proxy-архитектуру и DPI-подходы, StarGuard AI работает в режиме reverse proxy. Такой подход позволяет упростить внедрение и минимизировать влияние на существующую корпоративную инфраструктуру.

«Корпоративные AI-сервисы постепенно становятся частью критической ИТ-инфраструктуры, а значит требуют сопоставимого уровня контроля и защиты. StarGuard AI создает единый контур безопасной работы с LLM и позволяет компаниям внедрять AI-инструменты без потери контроля над данными с политиками безопасности и compliance-требованиями», — отмечает Никита Векессер, лидер продукта StarGuard в Orion soft.

Решение поддерживает интеграцию с OpenWebUI, IDE, AI-агентами и корпоративными платформами без необходимости изменения клиентской инфраструктуры. StarGuard AI будет полезен для крупного бизнеса, финансового сектора, промышленности, государственных организаций и компаний, внедряющих корпоративных AI-ассистентов, агентские системы и внутренние AI-платформы.