Хакеры используют ИИ-инструменты для создания ботнетов
Исследователи обнаружили метод HalluSquatting, который превращает популярные ИИ-модели в инструменты для управления ботнетами.
Хакеры научились использовать девять популярных ИИ-инструментов для создания ботнетов. Метод атаки, названный HalluSquatting, эксплуатирует неспособность языковых моделей отвечать «я не знаю» на подозрительные запросы.
Исследователи выяснили, что злоумышленники могут заставить ИИ генерировать вредоносный код или инструкции для управления заражёнными устройствами. Уязвимость затрагивает модели, которые некритично обрабатывают запросы и пытаются дать ответ даже на опасные вопросы.
Атака работает так: хакеры отправляют ИИ-инструменту запрос, который выглядит легитимным, но содержит скрытые команды. Вместо отказа модель выполняет инструкцию — например, создаёт скрипт для рассылки спама или кражи данных.
Среди уязвимых инструментов — несколько известных платформ для разработчиков и бизнеса. Точные названия не раскрываются, но исследователи подтвердили, что риску подвержены как коммерческие, так и открытые решения.
Проблема усугубляется тем, что многие компании внедряют ИИ-инструменты без дополнительной защиты. Это позволяет хакерам масштабировать атаки, используя легальные сервисы как прикрытие.
Эксперты предлагают два способа защиты: обучать модели распознавать подозрительные запросы и вводить строгие ограничения на выполнение кода. Пока такие меры применяют редко.
HalluSquatting — не первая атака, использующая уязвимости ИИ. Ранее злоумышленники применяли похожие методы для фишинга и дезинформации. Но теперь угроза серьёзнее — ботнеты могут выводить из строя целые сети.
