Что советуют компаниям, чтобы не допустить ИИ-сбои

Для снижения рисков нейросети стоит запускать локально на компьютерах пользователей или в закрытом контуре на инфраструктуре компании.

Об этом РИА Новости рассказал директор по продуктам MWS AI Максим Волошин. Эксперт отметил:

За последний год произошло несколько крупных сбоев в международных информационных системах, в том числе Claude от Anthropic, что создаёт риски для компаний в чувствительных сферах — промышленности и финансах, где важна бесперебойная работа. Чтобы снизить такие риски, ИИ стоит запускать внутри периметра компании: это помогает обеспечить стабильность 24/7.

Волошин добавил, появление ИИ-агентов ужесточает требования безопасности и технологической устойчивости системы.

Также он отметил, задача разработчика подобных решения (ИИ-ассистенты для массовых профессий и платформ для создания и управления ИИ-агентами), помимо создания должного уровня безопасности, состоит в обеспечении автономности работы ИИ-системы. Без вмешательства человека она должна выполнять как можно больше действий, проверять качество своей работы и передавать человеку итог для конечного решения.

изображение freepik