В GPT-5.6 Sol обнаружили уязвимости как в Fable 5

Британский Институт безопасности ИИ (AISI) сообщил, что у GPT-5.6 Sol — новой модели OpenAI — нашли те же уязвимости, что и у Fable 5 от Anthropic. Из-за этих проблем доступ к Fable 5 ранее ограничили для всех иностранцев по требованию властей США.

GPT-5.6 Sol представили две недели назад. Модель обещала более точные ответы и улучшенную обработку контекста. Но тесты AISI показали, что её можно использовать для генерации вредоносного кода и обхода базовых защитных механизмов.

Fable 5 столкнулась с аналогичными рисками в прошлом месяце. Тогда Anthropic временно закрыла доступ к модели за пределами США. Эксперты предполагают, что уязвимости связаны с архитектурой трансформеров нового поколения.

OpenAI пока не прокомментировала ситуацию. В компании заявили, что работают над улучшением безопасности. AISI рекомендует ограничить использование GPT-5.6 Sol в корпоративных средах до исправления ошибок.

Специалисты отмечают, что проблемы возникают при обработке сложных многошаговых запросов. Злоумышленники могут манипулировать ответами модели, получая данные или инструкции, которые нарушают политику разработчиков.

Источник изображения: Andrew Neel/unsplash.com