Госспецсвязи утвердила рекомендации по киберзащите систем, использующих искусственный интеллект
Государственная служба специальной связи и защиты информации Украины сообщила, что утвердила рекомендации по киберзащите информационно-коммуникационных систем (ИКС), которые используют технологии искусственного интеллекта (ИИ).
Соответствующий приказ от 23 февраля 2026 года № 154 издан во исполнение плана мероприятий по реализации Концепции развития искусственного интеллекта в Украине на 2025–2026 годы, принятой Правительством.
Документ разработан как практический ориентир для владельцев и распорядителей государственных и частных информационных, электронных коммуникационных и технологических систем. Рекомендации имеют добровольный характер и предназначены для использования при разработке планов киберзащиты и оценке рисков при внедрении технологий ИИ.
Документ предлагает комплексный подход к безопасному внедрению ИИ и детализирует таксономию специфических киберугроз, характерных именно для таких систем, а также шаги для их нейтрализации.
Среди ключевых векторов угроз, которые рассматриваются в рекомендациях:
- атаки на цепочки поставок технологий ИИ (компрометация программного обеспечения, аппаратного обеспечения или API);
- «отравление» данных и моделей ИИ (намеренное внесение искаженных данных в обучающую выборку для ухудшения работы системы);
- состязательные атаки (создание специальных входных данных для провоцирования ошибочных решений ИИ);
- атаки типа «промпт-инъекция» (введение манипулятивных запросов для обхода механизмов защиты и утечки данных);
- инверсия и кража модели ИИ (получение несанкционированного доступа к внутренней структуре, обучающим данным или создание копий модели).
Для каждой из угроз специалисты Госспецсвязи разработали перечень действенных мер киберзащиты. Среди них:
- внедрение метода состязательного обучения (своеобразная «прививка» для ИИ, когда его намеренно тренируют на искаженных данных, чтобы выработать устойчивость к хакерскому обману);
- использование федеративного обучения (подход, при котором ИИ обучается локально на устройствах пользователей, не передавая их личные данные на центральные серверы);
- обеспечение дифференциальной конфиденциальности (математическая защита, которая делает невозможным извлечение данных конкретного человека из общего массива информации);
- жесткая фильтрация входных запросов, постоянный мониторинг аномалий и обеспечение высокого качества (релевантности) наборов данных.
Также в рекомендациях подчеркивается необходимость интеграции управления рисками ИИ в общую систему кибербезопасности организаций с использованием передовых международных стандартов, таких как ISO/IEC 23894:2023, ISO/IEC 42001:2023 и профильных фреймворков NIST.
В Госспецсвязи добавили, что использование этих рекомендаций поможет украинским учреждениям и организациям безопасно интегрировать инновационные технологии, избегая специфических уязвимостей и защищая критически важные данные от новейших векторов кибератак.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
