В Казахстане сформирована система защиты цифровой инфраструктуры, объединяющая государственные технические службы, центры мониторинга и реагирования на киберинциденты, а также частные экспертные организации. Их компетенции создают основу для безопасного внедрения искусственного интеллекта в государственном секторе и бизнесе.
Развитие ИИ требует защиты не только данных и инфраструктуры, но и самих приложений от вмешательства в их работу. Для ИИ-систем особое значение имеют предотвращение утечек конфиденциальной информации, контроль доступа, выявление уязвимостей и противодействие манипуляциям входными данными и запросами пользователей.
Развитие национальной системы кибербезопасности отражено и в международной оценке. По итогам Глобального индекса кибербезопасности Международного союза электросвязи (Global Cybersecurity Index 2024) Казахстан набрал 94,04 балла из 100 и вошёл во вторую группу стран - Tier 2 (Advancing).
Индекс оценивает правовые, технические и организационные меры, развитие потенциала и международное сотрудничество. Сформированные в этих направлениях компетенции создают основу для дальнейшего развития безопасности цифровых сервисов, включая решения с применением искусственного интеллекта.
Источники:
АО «Государственная техническая служба» осуществляет технические функции по обеспечению кибербезопасности цифровых объектов, включая испытания защищённости, анализ программного обеспечения и защиту инфраструктуры. Эти направления имеют непосредственное значение для цифровых систем, в состав которых входят компоненты искусственного интеллекта.
ГТС также рассматривает специфические риски безопасности ИИ, угрозы утечки данных при использовании больших языковых моделей, недостоверность генерируемой информации, уязвимости программной среды и атаки посредством внедрения вредоносных инструкций в запросы к модели — Prompt Injection. Таким образом, вопросы безопасности ИИ уже присутствуют в экспертной повестке организации.
Источники:
Государственный оперативный центр обеспечивает мониторинг безопасности государственных цифровых объектов, выявление угроз и инцидентов и сопровождение реагирования. Его функции реализуются в рамках Национального координационного центра на базе ГТС.
При внедрении ИИ в государственные информационные системы такие механизмы могут использоваться для защиты инфраструктуры ИИ-сервисов: выявления несанкционированного доступа, подозрительной активности, компрометации учётных записей и нарушений безопасности данных. Мониторинг и реагирование создают необходимый эксплуатационный уровень защиты, который должен дополняться проверкой специфических рисков самих ИИ-моделей.
Источники:
TSARKA (ЦАРКА) является частной организацией, специализирующейся на оказании услуг в сфере кибербезопасности. В отличие от государственных органов и организаций, выполняющих предусмотренные законом государственные функции, TSARKA осуществляет профессиональную и коммерческую деятельность по защите цифровой инфраструктуры заказчиков.
В числе основных направлений деятельности — услуги оперативного центра кибербезопасности (SOC), включая круглосуточный мониторинг событий, обнаружение киберинцидентов и сопровождение реагирования; проведение технического анализа и расследований; тестирование на проникновение (Pentest), оценка защищенности веб-приложений, мобильных приложений, API, сетевой и облачной инфраструктуры.
Кроме того, TSARKA осуществляет работы по оценке уязвимостей и моделированию действий нарушителя (Red Team), оказывает консультационные услуги по безопасной разработке и проверке защищенности программного обеспечения, а также развивает платформу Tumar.One (Bug Bounty), обеспечивающую взаимодействие организаций с независимыми исследователями для выявления и устранения уязвимостей.
Таким образом, функции TSARKA носят преимущественно сервисный и экспертно-технический характер и не являются государственными контрольными либо регуляторными полномочиями.
Источники: