Қазақстанда мемлекеттік техникалық қызметтерді, киберинциденттерді мониторингтеу және оларға ден қою орталықтарын, сондай-ақ жеке сараптамалық ұйымдарды біріктіретін цифрлық инфрақұрылымды қорғау жүйесі қалыптасқан. Олардың құзыреттері мемлекеттік сектор мен бизнесте жасанды интеллектіні қауіпсіз енгізуге негіз болады.
Жасанды интеллектіні дамыту деректер мен инфрақұрылымды ғана емес, қосымшалардың өзін де олардың жұмысына заңсыз араласудан қорғауды талап етеді. ЖИ жүйелері үшін құпия ақпараттың таралуын болдырмау, қол жеткізуді бақылау, осалдықтарды анықтау, сондай-ақ кіріс деректері мен пайдаланушы сұрауларын манипуляциялауға қарсы іс-қимыл жасау ерекше маңызды.
Ұлттық киберқауіпсіздік жүйесінің дамуы халықаралық бағалауда да көрініс тапқан. Халықаралық электр байланысы одағының 2024 жылғы Жаһандық киберқауіпсіздік индексі (Global Cybersecurity Index 2024) бойынша Қазақстан 100 мүмкін балдың 94,04 балын жинап, елдердің екінші тобына — Tier 2 (Advancing) санатына енді.
Индекс құқықтық, техникалық және ұйымдастырушылық шараларды, әлеуетті дамыту мен халықаралық ынтымақтастықты бағалайды. Осы бағыттарда қалыптасқан құзыреттер цифрлық сервистердің, оның ішінде жасанды интеллект қолданылатын шешімдердің қауіпсіздігін одан әрі нығайтуға негіз болады.
Дереккөздер:
«Мемлекеттік техникалық қызмет» АҚ цифрлық объектілердің киберқауіпсіздігін қамтамасыз ету бойынша техникалық функцияларды жүзеге асырады. Оларға қорғалу деңгейін сынау, бағдарламалық қамтылымды талдау және инфрақұрылымды қорғау кіреді. Бұл бағыттар құрамында жасанды интеллект компоненттері бар цифрлық жүйелер үшін тікелей маңызды.
МТҚ жасанды интеллект қауіпсіздігіне тән тәуекелдерді де қарастырады. Олардың қатарында үлкен тілдік модельдерді пайдалану кезінде деректердің таралу қаупі, жасанды интеллект қалыптастыратын ақпараттың дәйексіздігі, бағдарламалық ортаның осалдықтары және модельге берілетін сұрауларға зиянды нұсқаулар енгізу арқылы жасалатын шабуылдар — Prompt Injection бар. Осылайша, жасанды интеллект қауіпсіздігі мәселелері ұйымның сараптамалық жұмысының күн тәртібіне енгізілген.
Дереккөздер:
Мемлекеттік жедел орталық мемлекеттік цифрлық объектілердің қауіпсіздігін мониторингтеуді, қатерлер мен инциденттерді анықтауды және оларға ден қоюды сүйемелдеуді қамтамасыз етеді. Оның функциялары МТҚ базасындағы Ұлттық үйлестіру орталығы шеңберінде жүзеге асырылады.
Мемлекеттік ақпараттық жүйелерге жасанды интеллект енгізілген кезде бұл тетіктер ЖИ сервистерінің инфрақұрылымын қорғау үшін қолданылуы мүмкін. Атап айтқанда, олар рұқсатсыз қол жеткізуді, күмәнді белсенділікті, есептік жазбалардың бұзылуын және деректер қауіпсіздігінің бұзылуын анықтауға мүмкіндік береді. Мониторинг пен инциденттерге ден қою пайдалану кезеңіндегі қорғаныстың қажетті деңгейін қамтамасыз етеді. Бұл жұмыс ЖИ модельдерінің өзіне тән тәуекелдерді тексерумен толықтырылуға тиіс.
Дереккөздер:
TSARKA (ЦАРКА) — киберқауіпсіздік саласында қызмет көрсетуге маманданған жеке ұйым. Заңда көзделген мемлекеттік функцияларды орындайтын мемлекеттік органдар мен ұйымдардан айырмашылығы, TSARKA тапсырыс берушілердің цифрлық инфрақұрылымын қорғау бойынша кәсіби және коммерциялық қызметті жүзеге асырады.
Ұйым қызметінің негізгі бағыттарына киберқауіпсіздіктің жедел орталығы (SOC) қызметтері, оның ішінде оқиғаларды тәулік бойы мониторингтеу, киберинциденттерді анықтау және оларға ден қоюды сүйемелдеу жатады. Сондай-ақ ұйым техникалық талдау мен тергеп-тексеру жүргізеді, енуге тестілеуді (Pentest), веб-қосымшалардың, мобильді қосымшалардың, API интерфейстерінің, желілік және бұлттық инфрақұрылымның қорғалу деңгейін бағалауды жүзеге асырады.
Бұдан бөлек, TSARKA осалдықтарды бағалау және ықтимал шабуылдаушының әрекеттерін модельдеу (Red Team) жұмыстарын жүргізеді, бағдарламалық қамтылымды қауіпсіз әзірлеу және оның қорғалуын тексеру бойынша консультациялық қызметтер көрсетеді. Ұйым осалдықтарды анықтау және жою мақсатында ұйымдардың тәуелсіз зерттеушілермен өзара іс-қимылын қамтамасыз ететін Tumar.One (Bug Bounty) платформасын да дамытады.
Осылайша, TSARKA функциялары негізінен қызмет көрсету және сараптамалық-техникалық сипатқа ие әрі мемлекеттік бақылау немесе реттеу өкілеттіктеріне жатпайды.
Дереккөздер: