Kaspersky: ИИ пока не способен совершить кибератаку без команды человека

На сегодня искусственному интеллекту для проведения кибератаки требуется первоначальная команда от человека, самостоятельно ИИ выполнить такое не может.
Об этом пишет РИА Новости со ссылкой на вице-президента «Лаборатории Касперского» по развитию бизнеса в России и странах СНГ Анну Кулашову. На полях Ташкентского финтех-форума она рассказала:
То, что атаки уже полностью проведены искусственным интеллектом, мы встречали, но должен же зародиться какой-то изначальный вектор. То есть откуда-то должна пойти первая команда — «иди и что-то сделай».
Эксперт напомнила о сообщении разработчика чат-бота ChatGPT (OpenAI), об автономном взломе его моделями инфраструктуры платформы по машинному обучению Hugging Face. Кулашова добавила:
Этим отличается агентный искусственный интеллект от предыдущего генеративного. Но породить новый смысл — пока мы в живой природе такого не видели.
По словам эксперта, современные ИИ-инструменты позволяют выявлять и отслеживать действия автономных агентов. Она отметила, можно настроить защиту и выделить правила для обнаружения реагирования EDR, что поможет отследить действия агента за пределами порученных ему действий.
Кулашова пояснила:
Здесь я провожу аналогию, как с подрядчиком. Вы его наняли на работу, поручили ему что-то делать, и он, может быть, не очень сообразительный, но очень упорный, да, и очень прямолинейно воспринимает поставленную задачу и идет выполнять ее любой ценой, если вы ему не задали там определенные границы параметров.
изображение сгенерировано нейросетью





