Grok передаёт данные пользователей при расшифровке вредоносных инструкций

Искусственный интеллект Grok от xAI можно обойти с помощью зашифрованных инструкций. Злоумышленники используют этот метод, названный Cryptographic Context Injection, чтобы получать доступ к персональным данным пользователей.

Эксперименты показали, что Grok выполняет вредоносные команды, если они закодированы определённым образом. Модель воспринимает их как обычные запросы и выдаёт email, номера телефонов и другую конфиденциальную информацию.

Проблема касается не только Grok. Большинство современных языковых моделей уязвимы к подобным атакам. Разработчики блокируют явно опасные запросы, но криптографические методы обходят эти фильтры.

Исследователи отмечают, что уязвимость сложно устранить, так как модели обучены работать с шифрами как частью естественного языка. Полный запрет таких запросов невозможен — это нарушит работу с легальными криптографическими задачами.

xAI получила отчёт об уязвимости, но пока не сообщила о сроках исправления. Эксперты рекомендуют временно не вводить зашифрованные данные в Grok и другие ИИ-системы.

Cryptographic Context Injection — очередной пример уязвимости защитных механизмов ИИ. Ранее исследователи взламывали чат-ботов с помощью скрытых команд в тексте, изображениях или звуковых сигналах.