Федеральная служба по техническому и экспортному контролю (ФСТЭК) России в декабре 2025 года впервые внесла в реестр кибернетических угроз риски, связанные с технологиями искусственного интеллекта.
Это означает, что теперь все разработчики программного обеспечения, работающие с государственными структурами или критически важной ИТ-инфраструктурой, обязаны учитывать потенциальные угрозы, связанные с использованием искусственного интеллекта.
Как отмечается в материалах ФСТЭК, в обновленный банк данных угроз (БДУ) были включены отдельные категории, отражающие уязвимости в инструментах и технологиях машинного обучения.
В перечень вошли модели, использующие алгоритмы ML, тренировочные выборки (датасеты), а также механизмы генерации контента на основе внешней информации (Retrieval Augmented Generation). Также обозначена категория адаптивных компонентов Low-Rank Adaptation, с помощью которых модели подстраиваются под конкретные задачи.
В отдельном разделе представлены сценарии возможных атак, направленных на ИИ-системы. Упоминается возможность воздействия на фреймворки и библиотеки, эксплуатация их уязвимостей, вмешательство в системные запросы (промпты), изменение настроек агентов.
А также атаки типа «отказ в обслуживании», при которых нарушается функционирование за счет превышения лимитов запросов. Речь идет о так называемых DoS-атаках, проводимых с одного устройства и направленных на истощение ресурсов модели или сервисной среды.
Уже осенью 2025 года велась работа над новым стандартом, посвященным безопасной разработке ИИ-систем. Его внедрение планировалось до конца года, и опубликованный перечень угроз должен стать нормативной основой для дальнейшего регулирования в этой сфере.
Новый стандарт дополняет уже действующий документ по защите программного обеспечения и ориентирован на снижение рисков при использовании нейросетей в государственных или чувствительных бизнес-процессах.
Создание обновленного банка данных угроз (БДУ) изначально было направлено на обеспечение ИБ-специалистов актуальной информацией об угрозах. Сегодня этот ресурс стал обязательным элементом работы для компаний, обрабатывающих персональные данные или обслуживающих чувствительные сегменты. А также атаки типа «отказ в обслуживании», при которых нарушается функционирование за счет превышения лимитов запросов. Речь идет о так называемых DoS-атаках, проводимых с одного устройства и направленных на истощение ресурсов модели или сервисной среды.