Агенттік ЖИ-агенттерді пайдалану кезіндегі басымдықтарды белгілеп берді
Агенттік Төрағасының бірінші орынбасары Тимур Әбілқасымов AI & Digital Bridge 2026» VII халықаралық форумының шеңберінде
«Қаржы саласындағы AI-агенттер: шешімдерді кімдер қабылдайды – адам немесе алгоритм» панельдік сессиясына қатысты.
Ол қадағалаудың мақсаттар мен белгіленген нұсқаулардан бастап шешім қабылдау мен олардың нәтижелеріне дейін ЖИ-агенттер жұмысының тұтастай процесін қамтуға тиіс екенін атап өтті. Негізгі басымдықтар – алгоритмдердің ашықтығы, адамның бақылауы және клиенттерді кемсітушіліктен, жасырын комиссиялардан және қосымша қызметтерді мәжбүрлеп жүктеуден қорғау.
«Біздің міндетіміз – барынша ашықтықты қамтамасыз ету. Егер агент өз функциясын дұрыс орындаса, ал адам шешім қабылдаудың аясында қалып, белгілі бір сенім деңгейін, лимиттер мен шарттарды белгілейтін болса, онда мұндай тәсілді басқаруға болады. Бірақ қазіргі уақытта дербес түрде өздігінен шешім қабылдай алатын және өнімдер мен қызметтер кәрзеңкесін қалыптастыруға қабілетті дербес агенттер пайда болуда.
Мұндай агенттер үшін жаңа тәуекелдерден, оның ішінде жасырын jailbreak-тен, яғни белгіленген шектеулерді айналып өтуге бағытталған интерфейстер мен агенттермен коммуникация арқылы жасалатын шабуылдардан қорғау жүйесін қалыптастыру қажет. Әзірге мұндай қорғау тетіктері банк секторында ғана емес, тұтастай әлемде де дамудың бастапқы сатысында тұр», - деп атап өтті Тимур Әбілқасымов.
Сондай-ақ, ол 100 қаржы ұйымы қосылған Qainar киберқауіптерден ұжымдық қорғау жүйесі туралы да айтып берді. Qainar шеңберінде Агенттік кибер оқыс оқиғалар туралы ақпаратты талдау және құрылымдау және қауіптер туралы деректермен жедел алмасу үшін ЖИ-агенттерді белсенді түрде пайдаланады. Жүйе нарыққа қатысушыларға шабуылдарға бірлесіп ден қоюға және киберорнықтылықты арттыруға көмектеседі. Сондай-ақ, Агенттік банктердің жекелеген жүйелерін бақылау үшін өзінің ЖИ агенттерін қолдануды кеңейтеді.
Сыртқы коммуникациялар басқармасы