ФСТЭК определены угрозы безопасности от ИИ

Их должны будут учитывать разработчики программного обеспечения для госструктур и КИИ.

В банк данных угроз информационной безопасности Федеральная служба по техническому и экспортному контролю внесла риски, связанные с искусственным интеллектом, пишут «Ведомости».

Регулятор описал специфические ИИ-технологии, чьи уязвимости могут использовать для кибератак злоумышленники. В их числе:

• Модели машинного обучения.
• Наборы обучающих данных (датасеты).
• RAG (Retrieval Augmented Generation — подход, при котором ответ генерируется на основе данных, полученных из внешних источников).
• LoRA-адаптеры (Low-Rank Adaptation — подход, который позволяет адаптировать большие модели к конкретным задачам).

Кроме того, ФСТЭК отписала векторы возможных атак, такие как эксплуатация уязвимостей в фреймворках (шаблонах) для ИИ, модификация системных промптов (запросов) или конфигураций агентов, а также DoS-атаки (атака, при которой используется одно устройство), направленные на исчерпание квоты запросов.

изображение freepik