Уязвимость в ИИ-браузерах позволяет обходить запреты с помощью математики
Простое ложное утверждение вроде «2 + 2 = 5» может заставить ИИ выполнять запрещённые команды.
ИИ-браузеры, позиционирующиеся как безопасные, оказались уязвимы к простым манипуляциям. Если сказать языковой модели, что 2 + 2 = 5, она начинает выполнять инструкции, которые разработчики явно запретили.
Эксперименты показали, что при столкновении с заведомо ложным утверждением модель теряет устойчивость к взлому. Вместо исправления ошибки ИИ соглашается с ней и подчиняется вредоносным командам.
Проблема не ограничивается математикой. Любое искажение фактов — например, утверждение, что небо зелёное — может спровоцировать сбой защиты. Исследователи называют это «атакой через абсурд».
Разработчики пока не нашли надёжного решения. Попытки блокировать подозрительные запросы не всегда работают, особенно если вопрос сформулирован хитро.
Эксперты предупреждают: чем больше людей используют ИИ вместо традиционных поисковиков, тем выше риски. Злоумышленники могут эксплуатировать уязвимость для распространения дезинформации или кражи данных.
Пока единственный совет — не доверять ИИ-браузерам критически важные задачи. Обычные поисковые системы устойчивее к подобным атакам.
