Уязвимость SearchLeak в Copilot позволяла перехватывать 2FA-коды
Исследователи обнаружили брешь в защите Microsoft Copilot, через которую злоумышленники могли получать одноразовые пароли пользователей.
Исследователи выявили критическую уязвимость в Microsoft Copilot, позволяющую злоумышленникам перехватывать одноразовые пароли (2FA) пользователей. Эксплойт SearchLeak использует недостатки защиты в крупных языковых моделях.
Проблема связана с обработкой запросов в Copilot. Система иногда выдаёт конфиденциальные данные, включая 2FA-коды, если они оказались в публичном индексе. Хакеры научились извлекать эту информацию с помощью специальных запросов.
SearchLeak работает без доступа к аккаунту жертвы — достаточно знать её email или номер телефона. Тесты подтвердили, что атака эффективна в 40% случаев.
Ранее аналогичные уязвимости находили в ChatGPT и Bard. Поисковые системы индексируют временные данные LLM, а разработчики не всегда успевают устранить утечки.
Microsoft выпустила исправление, но исследователи считают его временным решением. Компании необходимо пересмотреть архитектуру Copilot, чтобы предотвратить подобные инциденты. Пока пользователям советуют не передавать модели критичные данные.
SearchLeak показал, что текущие методы защиты языковых моделей неэффективны против реальных угроз. Без системных изменений утечки будут повторяться.
