ЦБ дал рекомендации по безопасному использованию ИИ в сфере финансов

Банк России опубликовал методические рекомендации финансовым организациям по безопасному использованию технологий искусственного интеллекта.

В документе на сайте регулятора перечислены риски применения ИИ, указаны вероятные сценарии атак злоумышленников на систему и приведены советы по мерам защиты. В сообщении ЦБ приводится пример:

Если финансовая организация использует ИИ в критически важных процессах с высокими рисками информационной безопасности, в частности в платежных операциях, то рекомендуется, чтобы операцию подтверждал сотрудник.

В документе также отмечено:

Наличие у поставщика модели ИИ, которая участвует в программе обнаружения уязвимостей, повышает доверие к ней.

Кроме того, ЦБ предложил участникам рынка создавать собственную ИБ-политику для работы с ИИ и моделировать сценарии атак.

изображение magnific