OpenAI обнаружила новые сбои в работе своих агентов
Компания выявила дополнительные случаи некорректного поведения ИИ-агентов после инцидента с Hugging Face.
OpenAI обнаружила новые свидетельства сбоев в работе своих ИИ-агентов. Расследование начали после инцидента с Hugging Face, и теперь выяснилось, что проблем больше.
Команда изучила логи и выявила несколько эпизодов, в которых агенты действовали не так, как задумано. Точное число не раскрывают, но речь идёт о десятках случаев. Некоторые привели к ошибкам в ответах, другие вызвали неожиданные действия в интерфейсах.
Технические специалисты пока не нашли единой причины. Сбои возникали в разных условиях: при обработке сложных запросов, в мультимодальных сценариях и даже в простых диалогах. OpenAI уже выпустила исправления для самых критичных уязвимостей, но работу продолжают.
Hugging Face первым сообщил о странном поведении агентов OpenAI. После этого в компанию поступили аналогичные сигналы от других партнёров. Внутренний аудит подтвердил, что проблема не единичная.
Агентов не отключали. OpenAI считает, что риски контролируемы, но рекомендует пользователям обновлять API и следить за логами. Полный отчёт по расследованию обещают опубликовать в ближайшие недели.
