Freedom Broker
Реклама
Реклама

Как чат-бот может вырасти до полноценного ИИ-сотрудника

Требования регулятора, безопасность и правила коммуникации приводят к выстраиванию управляемой и масштабируемой архитектуры

Изображение Kapital.kz

Автор: Рубина Лозовая, вице-президент по управлению данными и розничному риск-менеджменту Банка ЦентрКредит.

Жесткие регуляторные ограничения в банковской индустрии сопоставимы с ролью естественного отбора в теории эволюции. Персональные данные, требования к безопасности и SLA задают рамки, в которых любой цифровой продукт должен работать с первого дня. Но это далеко не все. Меняются продуктовые условия, клиентские сценарии, требования внутренних подразделений, нагрузка на контакт-центр и ожидания пользователей.

В такой среде AI-бот не может оставаться простым справочником с набором готовых ответов. Он вынужден усложняться:

● учиться понимать живую речь,
● работать с данными,
● проходить проверки безопасности,
● сохранять единый тон банка и
● переходить от ответов к действиям.

Именно так ограничения становятся механизмом эволюции продукта.

Это прекрасно показывает кейс эволюции AI-ассистента AIBEK в Банке ЦентрКредит, который презентовала команда Data Science офиса CDO (Chief Data Officer).

Годом рождения AIBEK'а можно считать 2024 год - именно тогда начала работу первая версия чат-бота. Сначала как типичный банковский бот: семантический поиск, intent-классификация, жесткие сценарии. База знаний включала 180 ответов, которые вручную пополняли сотрудники. При отклонении от ожидаемой формулировки система отвечала: "не понял вопрос".

Закрытие диалогов составляло всего 3% - это означало, что бот справлялся только с базовыми вопросами, плохо держал контекст, не обрабатывал вариативность речи и не выполнял действия. Любой запрос с вариативной формулировкой или требующий действия уходил оператору. Клиент попадал в неудобную модель: ждал, переключался на человека и заново объяснял проблему.

Старт эволюции: внедрение LLM

Команда банка совершенствовала архитектуру бота, внедрив генеративные LLM. Они позволили работать с контекстом и разными формулировками клиента. Вопрос можно задать несколькими способами, а система все равно распознавала смысл. Одновременно с этим база данных была расширена со 180 до более чем 5400 ответов. В результате в 2026 году уже 55,6% диалогов закрывались чат-ботом - против 3% в 2024 и показателем 14,6% до внедрения LLM в 2025.

Пользователь все реже и реже уходил к оператору-человеку - переход на генеративные модели ИИ дал +41 п.п. за последние 5 месяцев.

Рост дала не только модель, но и перестройка инфраструктуры: собственные GPU-серверы, дообучение моделей, агентные подходы. AIBEK стал управлять логикой взаимодействия, а не просто подбирать ответ из базы.

Ограничения как основа роста

Дальнейшее развитие AIBEK строилось уже вокруг

● технических ресурсов
● безопасности
● регуляторики
● тона коммуникации
● управления знаниями

GPU и скорость ответа

До появления собственных GPU (графических процессоров, на которых обучают и запускают AI), команда работала с ограниченными моделями. Это влияло на качество ответов и скорость: на больших контекстах задержка между запросом клиента и ответом системы - выходила за рамки установленного стандарта скорости и качества сервиса.

После решения технических вопросов и запуска собственной GPU-инфраструктуры банк получил возможность обучать и оптимизировать модели внутри своей среды. Это позволило обрабатывать данные клиентов внутри банка и при этом удерживать нагрузку до 200 ответов в минуту в пиковые моменты.

При этом технически банк использовал гибридную схему, распределяя задачи по степени конфиденциальности. Частные данные обрабатываются на собственных GPU, а вот публичная информация (продукты банка, справка, часто задаваемые вопросы), могли отправляться на внешние облачные AI-модели.

Регуляторика и безопасность

В AIBEK безопасность реализована в несколько слоев, за каждый отвечает отдельный модуль:

● входящий запрос проверяет Input Guard. Он просматривает запрос на предмет наличия персональных данных, запрещенных тем, попыток взлома.
● Policy Layer задает правила банка и законодательства, используя единый стиль общения с клиентом.
● Output Guard проверяет уже готовый ответ: фактологию, токсичность, возможные утечки данных.
● Audit Trail сохраняет полный лог взаимодействий: запросы, ответы и действия системы.

Каждый запрос проходит через эту цепочку, поэтому банк может работать с клиентскими данными без нарушения требований комплаенса.

«Голос банка» как технический параметр: Tone of Voice

Манера общения с клиентом, стиль речи имеют крайне важны в банковской коммуникации, порой это даже важнее содержания ответа. Например, ситуацию с блокировкой карты можно отработать очень официально, перегрузив клиента сложной терминологий и объяснив процедуры. Но можно использовать адаптированный вариант, чтобы в первую очередь объяснить клиенту, где разблокировать карту.

В итоге теперь каждый ответ проходит проверку на соответствие ToV. Это снижает риск ошибок в коммуникации и делает ответы предсказуемыми.

Управление знаниями

Принципиальное значение для AI-системы играет база знаний, ведь это ее рабочая память. Если продуктовые условия изменились, а бот узнает об этом только через день, то есть риск дать клиенту устаревший ответ.

Раньше обновление данных через Confluence занимало до 1 дня. В AIBEK для этого используется Knowledge Hub: он переводит документацию в формат, понятный модели, и позволяет обновлять знания за 2 минуты. При этом продуктовая команда может сама включать и отключать нужные блоки информации без участия разработчиков.

В результате скорость обновления знаний изменилась с 1 дня до 2 минут, релевантность ответов достигла 95%, а зависимость от разработчиков для работы с контентом стала нулевой.

Что это дало в бизнесе?

К апрелю 2026 года AIBEK вышел уже на показатели высокого качества. Индекс удовлетворенности клиентов (CSI) составил 89,4%, средняя оценка - 4,45, объем обработки - более 33 тысяч диалогов в месяц. Самое главное: время решения вопроса у AIBEK составило 11,8 минуты против 19,5 минуты у оператора.

Разница заметна и в скорости ответа. AIBEK отвечает за 4,9 секунды, оператор - за 120 секунд. Доля участия бота в обработке чатов достигла 77,3%, при этом система выдерживает обработку до 200 ответов в минуту.

Еще один важный показатель - это закрытие диалогов. AIBEK закрывает 55,6% обращений. При этом в абсолютных цифрах через него проходит свыше 33 тысячи диалогов, а через одного оператора - около 1,7 тысяч. За счет автоматизации первой линии время ожидания оператора сократилось в 2,7 раза - с 10,2 до 3,8 минуты.

От ответа к действию

Сегодня AIBEK в текущей конфигурации работает как оркестратор:

● принимает запрос
● распределяет его между модулями
● инициирует действия.

Система интегрирована с банковским ядром, платежными системами и скорингом. Она работает через WhatsApp, Telegram, мобильное приложение и сайт. Сегодня вокруг AIBEK формируется целая экосистема: голосовой робот, цифровой аватар, инструменты для операторов.

Фундамент для следующего уровня

Однако это далеко не предел. AIBEK работает уже 1 год и сегодня превратился в фундамент для следующего шага. В системе есть

● мультиагентность, когда разные AI-агенты отвечают за разные задачи;
● оркестрация, то есть управление их работой из одного центра;
● защитные правила и ограничения;
● Хаб знаний с обновлением каждые 2 минуты;
● единый тон общения банка;
● регуляторные правила и
● полный журнал запросов, ответов и действий.

Следующий шаг в эволюции - создание ассистентов для сотрудников в HR, IT, финансах, комплаенсе. Такая система сможет не только отвечать на вопросы, но и согласовывать, оформлять и эскалировать задачи.

Этот путь AIBEK прошел чуть менее, чем за два года, показав, как банковские ограничения могут усиливать цифровой продукт. Требования регулятора, безопасность и правила коммуникации в банке заставили команду строить управляемую и масштабируемую архитектуру. В итоге AIBEK дорос до уровня, когда его можно использовать как стандарт для новых сервисов и агентов. Сегодня это уже не просто бот в чате, а заготовка для нового типа банковского сотрудника - цифрового, управляемого и глубоко встроенного в процессы.

При работе с материалами Центра деловой информации Kapital.kz разрешено использование лишь 30% текста с обязательной гиперссылкой на источник. При использовании полного материала необходимо разрешение редакции.

Читайте Kapital.kz в

TelegramInstagramFacebook
Telegram Kapital.kz