В ИИ-сервисах зафиксировали всплеск уязвимостей

ГК «Солар» впервые обнаружили значительный всплеск уязвимостей в ИИ-сервисах — 5% от всех зафиксированных в третьем квартале 2025 года.

Эксперты связывают рост инцидентов с трендом на вайбкодинг — операции, при которых генерацию кода проводит нейросеть, пишут «Известия» со ссылкой на специалистов центра расследования киберугроз Solar 4RAYS, ГК «Солар».

В числе самых уязвимых: Aibox (работа с различными нейросетями), Liner (поисковая система на основе ИИ), Telegai (площадка для участия в ролевых играх с ИИ-персонажами), Deepy (ИИ-помощник с открытым исходным кодом), Chaindesk (платформа для создания чат-бота ChatGPT AI для своего веб-сайта), Ai2 Playground (онлайн-платформа для создания и редактирования изображений с помощью ИИ).

По словам аналитика центра Сергея Беляева, большинство случаев связаны с «типичными клиентскими проблемами, такими как внедрение вредоносного кода в веб-страницу и получение доступа к внутренним объектам приложения». Мошенники смогли получить доступ к перепискам пользователей с нейросетью.

Эксперт отмечает:

Подобные уязвимости нередко возникают при использовании искусственного интеллекта для генерации кода без последующей тщательной проверки и тестирования, который в отрасли называют вайбкодингом. Можно предположить, что этот всплеск и был результатом повышенного ажиотажа вокруг нового течения в программировании.

Ведущий аналитик угроз компании WMX Павел Захаров в числе причин также отмечает пренебрежение стандартами и принципами безопасности разработки. Кроме классических уязвимостей эксперт отмечает новый класс угроз, нацеленный на ИИ в бизнес-логике приложений, которые называют «промт-инъекции». Все чаще фиксируют «дыры», которые связаны с обработкой пользовательских запросов, утечками, неправильной настройкой прав доступа и хранением персональных данных.

Еще одна трендовая лазейка для преступников — отсутствие у компаний механизмов отслеживания аномального поведения моделей, контроля входных данных и других процессов безопасной разработки и эксплуатации ИИ-систем.

Из-за этих недоработок в сеть утекают пароли, коды, данные клиентов, бизнес-планы и коммерческие тайны, которыми пользуются злоумышленники.

изображение Freepik