Александр Крушинский (BSS): «Крупному бизнесу нужно еще минимум года три, чтобы имплементировать ИИ в свои процессы»

 — Александр, как российские компании подходят к выбору ИИ-инструментов и решений? Каковы основные критерии выбора? Какие продукты предпочитают — российские или зарубежные?

 — Сразу уточню: отвечая на этот и последующие вопросы, буду говорить про генеративный ИИ в клиентском обслуживании и в поддержке сотрудников, текстовый и голосовой канал — это наша специализация.

Как правило, энтерпрайз выбирает не универсальный ИИ-инструмент, а решение прикладной задачи, и ИИ-функционал в этом случае является лишь одним из критериев выбора. Например, если условный банк решает внедрять телефонного ИИ-ассистента — выбор конкретной LLM будет одной из 100 характеристик, наряду с качеством распознавания речи, удобством отчетности, возможностями интеграции и т.д.

Директор департамента голосовых цифровых технологий компании BSS Александр Крушинский
Фото: BSS

Если говорить именно про ИИ-часть, как правило, критерия два: стоимость и требования по размещению — в облаке или внутри закрытого контура. В закрытом контуре — безопасно, но, как правило, дороже при сравнимом качестве и намного хуже масштабируется. В облаке — оплата по фактическому использованию, легкая комбинация дорогих/дешевых моделей и дешевле, но не безопасно.

Что касается выбора между российским и зарубежным, то выбор выглядит так: проприетарные зарубежные модели типа СhatGPT не рассматриваются вообще, и выбор сводится к выбору между облачными и локальными моделями. Если облачная, то используют Yandex/Sber или китайские с хостингом у облачных провайдеров и оплате по токенам. Если нужна локальная модель, то практически всегда выбор идет в пользу китайского open-source, так как это бесплатно при качестве, сравнимом с российскими проприетарными моделями.

 — Для каких задач, процессов, подразделений ИИ-решения уже уверенно используются, а для каких набирают популярность?

 — За рамки пилотов в клиентском обслуживании массово вышли три класса решений: Клиентские текстовые боты, ИИ-поиск по базе знаний, суфлёр/ассистент оператора в текстовом канале. Текстовые боты драйвятся прозрачной окупаемостью, а ИИ-поиск и суфлер — низкой ценой ошибки, так как результат ИИ верифицируется сотрудником, а не уходит напрямую клиенту.

В активной фазе пилотирования сейчас генеративный ИИ в голосовом канале, аналитика коммуникаций для поиска инсайтов, тренажёры для сотрудников и cowork-помощники для узких задач.

 — Как заказчики оценивают эффективность таких решений, как выбирают между эффективностью и безопасностью?

 — Между эффективностью и безопасностью на практике никто не выбирает. Контур задаёт служба безопасности до старта проекта, и дальше эффект максимизируют уже внутри этих границ. Вопрос стоит не «или – или», а «сколько получится выжать в разрешённом контуре». Цена ограничения при этом измерима: в июльском опросе Orion soft писал, что 91 % компаний упираются в потребность в собственных GPU-кластерах, больше 60 % принципиально идут в локальные модели и свою инфраструктуру. Закрытый контур — это капитальные затраты, и считать их надо до пилота, а не после.

Эффективность честно считается там, где эффект прямой. Например, для клиентского ИИ-помощника мы можем умножить процент автоматизации на ФОТ операторов и получить экономию. Там, где влияние косвенное, как, например, в проектах речевой аналитики на продажи, точной оценки ROI не существует. На оператора влияет обучение, обратная связь, мотивация, ещё десяток факторов, и вклад именно аналитики оттуда не вычленить. Цифра в презентации в таких случаях остаётся вопросом веры.

 — Что является стоп-фактором для внедрения ИИ?

 — Стоп-фактора три:

1. Стоимость ИИ — особенно если речь идет о капитальных затратах на GPU.
2. Недостаточное качество и надежность моделей. Это ограничивает использование ИИ во вроде был простых, но критичных процессах, где ИИ в целом справляется, но изредка ошибается, а ошибки недопустимы, или за них никто не хочет брать ответственность.
3. Неготовность инфраструктуры. Если нет API к системам, знания передаются из уст в уста, а документация устарела пару лет назад — ИИ не поможет.

 — Расскажите о практике вашей компании в этом направлении.

 — Мы 8 лет занимаемся автоматизацией клиентского обслуживания: текстовые и голосовые роботы, речевая аналитика, база знаний. ИИ живёт внутри каждой из этих систем. В роботах ИИ позволяет вести очень естественные сложные диалоги, в речевой аналитике — ИИ выявляет скрытые инсайты и генерирует гипотезы, в AI-портале — превращает базу знаний компании в «корпоративный ChatGPT». Причем везде ИИ не заменяет, а соседствует с традиционной функциональностью — позволяя находить тонкий баланс между функциональностью, надежностью и стоимостью решения.

Внутри себя используем не меньше, чем продаём. Темпы разработки выросли примерно наполовину, а скорость прототипирования и проверки гипотез — на порядки.

 — Поделитесь, пожалуйста, вашим видением развития тренда на использование бизнесом ИИ.

 — Основной технологический тренд — сложные многошаговые ИИ-агенты и скиллы. Но вообще, есть ощущение, что крупному бизнесу нужно еще минимум года три, чтобы имплементировать ИИ в свои процессы.

Это ярко видно при сравнении того, как ИИ используют мелкие предприниматели и просто сотрудники на личных подписках, с тем, как ИИ используется на уровне усредненной «крупной компании».

 — Большое спасибо за беседу!