• Басты бет
• Технологиялар
• Чат-бот қалай толыққанды AI-қызметкерге айнала алады

Чат-бот қалай толыққанды AI-қызметкерге айнала алады

Реттеуші талаптар, қауіпсіздік және коммуникация ережелері басқарылатын әрі ауқымданатын архитектураны қалыптастыруға алып келеді

Автор: Рубина Лозовая, Банк ЦентрКредит деректерді басқару және бөлшек тәуекел-менеджменті жөніндегі вице-президенті.

Банк индустриясындағы қатаң реттеуші шектеулерді эволюция теориясындағы табиғи сұрыпталу рөлімен салыстыруға болады. Дербес деректер, қауіпсіздік талаптары және SLA кез келген цифрлық өнім алғашқы күннен бастап жұмыс істеуі тиіс шеңберді белгілейді. Бірақ бұл бәрі емес. Өнім шарттары, клиенттік сценарийлер, ішкі бөлімшелердің талаптары, байланыс орталығына түсетін жүктеме және пайдаланушылардың күтуі өзгеріп отырады.

Мұндай ортада AI-бот дайын жауаптар жиынтығы бар қарапайым анықтамалық болып қала алмайды. Ол күрделене түсуге мәжбүр:

● тірі сөйлеуді түсінуді үйрену,

● деректермен жұмыс істеу,

● қауіпсіздік тексерістерінен өту,

● банктің бірыңғай коммуникация стилін сақтау және

● жауап беруден нақты әрекетке көшу.

Дәл осылай шектеулер өнім эволюциясының механизміне айналады.

Мұны Банк ЦентрКредит офисінің Data Science командасы таныстырған AIBEK AI-ассистентінің эволюциясы айқын көрсетеді.

AIBEK-тің туған жылы ретінде 2024 жылды атауға болады – дәл сол кезде чат-боттың алғашқы нұсқасы іске қосылды. Бастапқыда ол кәдімгі банктік бот болды: семантикалық іздеу, intent-классификация, қатаң сценарийлер. Білім базасында 180 жауап болды және оны қызметкерлер қолмен толықтырып отырды. Күтілген формулировкадан ауытқу болса, жүйе: «сұрақты түсінбедім» деп жауап беретін.

Диалогтарды жабу деңгейі небәрі 3% болды – бұл бот тек базалық сұрақтарға жауап беріп, контексті нашар ұстайтынын, сөйлеу вариативтілігін өңдей алмайтынын және әрекет орындамайтынын білдірді. Формулировкасы өзгерген немесе әрекет талап ететін кез келген сұраныс операторға жіберілетін. Клиент ыңғайсыз модельге тап болатын: күтуге, адамға ауысуға және мәселесін қайта түсіндіруге мәжбүр еді.

LLM енгізу: эволюцияның басталуы

Банк командасы генеративті LLM енгізу арқылы бот архитектурасын жетілдірді. Олар контекстпен және клиенттің әртүрлі формулировкаларымен жұмыс істеуге мүмкіндік берді. Сұрақты бірнеше тәсілмен қоюға болады, бірақ жүйе бәрібір мағынасын танитын болды. Сонымен қатар деректер базасы 180 жауаптан 5400-ден астам жауапқа дейін кеңейтілді. Нәтижесінде 2026 жылы диалогтардың 55,6%-ын чат-бот жапты – бұл 2024 жылғы 3% және 2025 жылы LLM енгізілгенге дейінгі 14,6% көрсеткішінен әлдеқайда жоғары.

Пайдаланушылар адам-операторға сирек жүгінетін болды – генеративті AI-модельдерге көшу соңғы 5 айда +41 пайыздық пункт өсім берді.

Өсімге тек модель ғана емес, инфрақұрылымды қайта құру да әсер етті: жеке GPU-серверлер, модельдерді қайта оқыту, агенттік тәсілдер. AIBEK енді жай ғана базадан жауап таңдамай, өзара әрекет логикасын басқаратын деңгейге жетті.

Шектеулер – өсімнің негізі

AIBEK-тің әрі қарайғы дамуы енді мына факторлардың айналасында құрылды:

● техникалық ресурстар;

● қауіпсіздік;

● реттеуші талаптар;

● коммуникация стилі;

● білімді басқару.

GPU және жауап беру жылдамдығы

Жеке GPU (AI-ды оқыту мен іске қосуға арналған графикалық процессорлар) пайда болғанға дейін команда шектеулі модельдермен жұмыс істеді. Бұл жауап сапасы мен жылдамдығына әсер етті: үлкен контекст жағдайында клиент сұранысы мен жүйе жауабы арасындағы кідіріс сервис жылдамдығы мен сапасына қойылған стандарттан асып кететін.

Техникалық мәселелер шешіліп, жеке GPU-инфрақұрылым іске қосылғаннан кейін банк өз ортасында модельдерді оқытып, оңтайландыра алатын мүмкіндікке ие болды. Бұл клиент деректерін банк ішінде өңдеуге және сонымен бірге шекті жүктеме кезінде минутына 200 жауапқа дейінгі көлемді ұстап тұруға мүмкіндік берді.

Сонымен қатар техникалық тұрғыдан банк гибридті схеманы қолданды, міндеттерді құпиялылық деңгейіне қарай бөлді. Жеке деректер жеке GPU-ларда өңделеді, ал жария ақпарат (банк өнімдері, анықтамалар, жиі қойылатын сұрақтар) сыртқы бұлтты AI-модельдерге жіберілуі мүмкін.

Реттеу және қауіпсіздік

AIBEK жүйесінде қауіпсіздік бірнеше деңгейде іске асырылған, олардың әрқайсысына жеке модуль жауап береді:

● кіріс сұранысын Input Guard тексереді. Ол сұраныста дербес деректердің, тыйым салынған тақырыптардың немесе бұзу әрекеттерінің бар-жоғын қарайды;

● Policy Layer банк пен заңнама ережелерін белгілеп, клиентпен бірыңғай коммуникация стилін сақтайды;

● Output Guard дайын жауапты тексереді: фактологияны, токсиктілікті, деректердің ықтимал сыртқа шығуын;

● Audit Trail сұраныстарды, жауаптарды және жүйе әрекеттерін қоса алғанда, өзара әрекеттің толық журналын сақтайды.

Әрбір сұраныс осы тізбек арқылы өтеді, сондықтан банк клиент деректерімен комплаенс талаптарын бұзбай жұмыс істей алады.

«Банк дауысы» техникалық параметр ретінде: Tone of Voice

Клиентпен сөйлесу мәнері мен сөйлеу стилі банктік коммуникацияда өте маңызды, кейде ол жауап мазмұнынан да маңыздырақ болады. Мысалы, карта бұғатталған жағдайды өте ресми түрде, күрделі терминологиямен және процедураларды түсіндіру арқылы жеткізуге болады. Бірақ клиентке картаны қай жерден бұғаттан шығаруға болатынын алдымен түсіндіретін бейімделген нұсқаны да қолдануға болады.

Нәтижесінде енді әрбір жауап ToV-қа сәйкестік бойынша тексеріледі. Бұл коммуникациядағы қателер қаупін азайтып, жауаптарды болжамды етеді.

Білімді басқару

AI-жүйе үшін білім базасы принципті түрде маңызды, өйткені бұл оның жұмыс жады. Егер өнім шарттары өзгеріп, бот бұл туралы тек бір күннен кейін білсе, клиентке ескірген жауап беру қаупі бар.

Бұрын деректерді Confluence арқылы жаңарту 1 күнге дейін созылатын. AIBEK-те бұл үшін Knowledge Hub қолданылады: ол құжаттаманы модельге түсінікті форматқа айналдырып, білімді 2 минут ішінде жаңартуға мүмкіндік береді. Сонымен қатар өнім командасы қажетті ақпарат блоктарын әзірлеушілердің қатысуынсыз өздері қосып-өшіреді.

Нәтижесінде білімді жаңарту жылдамдығы 1 күннен 2 минутқа дейін қысқарды, жауаптардың релеванттылығы 95%-ға жетті, ал контентпен жұмыс істеуде әзірлеушілерге тәуелділік нөлге түсті.

Бұл бизнеске не берді?

2026 жылдың сәуіріне қарай AIBEK жоғары сапа көрсеткіштеріне шықты. Клиенттердің қанағаттану индексі (CSI) 89,4%-ды, орташа баға 4,45-ті құрады, өңдеу көлемі айына 33 мыңнан астам диалогқа жетті. Ең бастысы: AIBEK-те мәселені шешу уақыты 11,8 минут болды, ал операторда – 19,5 минут.

Жауап беру жылдамдығындағы айырмашылық та айқын. AIBEK 4,9 секундта жауап береді, оператор – 120 секундта. Чаттарды өңдеудегі бот үлесі 77,3%-ға жетті, бұл ретте жүйе минутына 200 жауапқа дейін өңдей алады.

Тағы бір маңызды көрсеткіш – диалогтарды жабу. AIBEK өтініштердің 55,6%-ын толық жабады. Абсолютті сандармен алғанда, ол арқылы 33 мыңнан астам диалог өтеді, ал бір оператор арқылы шамамен 1,7 мың диалог қана өңделеді. Бірінші желіні автоматтандыру есебінен операторды күту уақыты 2,7 есе – 10,2 минуттан 3,8 минутқа дейін қысқарды.

Жауаптан әрекетке дейін

Бүгінде AIBEK қазіргі конфигурациясында оркестратор ретінде жұмыс істейді:

● сұранысты қабылдайды;

● оны модульдер арасында бөледі;

● әрекеттерді бастайды.

Жүйе банктің негізгі жүйесімен, төлем жүйелерімен және скорингпен интеграцияланған. Ол WhatsApp, Telegram, мобильді қосымша және сайт арқылы жұмыс істейді. Қазір AIBEK айналасында тұтас экожүйе қалыптасып жатыр: дауыстық робот, цифрлық аватар, операторларға арналған құралдар.

Келесі деңгейдің іргетасы

Алайда бұл шегі емес. AIBEK небәрі 1 жыл жұмыс істесе де, бүгінде келесі қадамның негізіне айналды. Жүйеде:

● әртүрлі AI-агенттер әртүрлі міндеттерге жауап беретін мультиагенттік жүйе;

● олардың жұмысын бір орталықтан басқаратын оркестрация;

● қорғаныс ережелері мен шектеулер;

● әр 2 минут сайын жаңартылатын білім хабы;

● банктің бірыңғай коммуникация стилі;

● реттеуші ережелер және

● сұраныстар, жауаптар мен әрекеттердің толық журналы бар.

Эволюцияның келесі қадамы – HR, IT, қаржы және комплаенс салаларындағы қызметкерлерге арналған ассистенттер құру. Мұндай жүйе тек сұрақтарға жауап беріп қана қоймай, тапсырмаларды келісіп, рәсімдеп және эскалациялай алады.

AIBEK бұл жолдан екі жылға жетпейтін уақытта өтті және банктік шектеулер цифрлық өнімді қалай күшейте алатынын көрсетті. Реттеуші талаптар, қауіпсіздік және банктегі коммуникация ережелері команданы басқарылатын әрі ауқымданатын архитектура құруға мәжбүрледі. Нәтижесінде AIBEK жаңа сервистер мен агенттер үшін стандарт ретінде қолдануға болатын деңгейге жетті. Бүгінде бұл чаттағы жай бот емес, банктік қызметкердің жаңа түріне – цифрлық, басқарылатын және процестерге терең кіріктірілген қызметкерге арналған негіз.

Kapital.kz іскерлік ақпарат орталығының материалдарымен жұмыс істегенде тек 30% мәтінді ғана пайдалану, міндетті түрде көзге гиперсілтеме қою арқылы рұқсат етіледі. Толық материалды пайдалану үшін редакцияның рұқсатын алу қажет.

Kapital.kz-ті оқыңыз