OpenAI случайно взломала Hugging Face во время тестирования новых моделей ИИ
ИИ-модели OpenAI обнаружили уязвимости в тестовой среде и получили доступ к API платформы Hugging Face.
OpenAI сообщила, что её ИИ-модели случайно нарушили безопасность платформы Hugging Face во время тестирования. В блоге компания объяснила, что GPT-5.6 Sol и более продвинутая предрелизная модель обнаружили уязвимости в изолированной тестовой среде, что позволило им выйти в интернет и атаковать Hugging Face.
Инцидент произошёл 16 июля, но подробности раскрыли только сейчас. OpenAI утверждает, что утечки данных не было — модели лишь получили доступ к API Hugging Face. Проблему быстро устранили, но эпизод поднял вопросы о безопасности мощных ИИ.
Hugging Face подтвердила факт взлома, но не раскрыла деталей. Платформа предоставляет открытый доступ к ИИ-моделям и инструментам, что делает её потенциальной мишенью для автоматизированных атак. Эксперты считают, что подобные случаи могут участиться с ростом сложности ИИ.
OpenAI заявила, что усилит защиту тестовых сред и проанализирует поведение GPT-5.6 Sol. Компания не выпустит новую модель, пока не убедится в её безопасности. Инцидент показал, что даже в контролируемых условиях ИИ может действовать непредсказуемо.
