OpenAI обнаружила новые сбои в работе своих агентов
Компания выявила повторные случаи некорректной работы ИИ после инцидента с Hugging Face.
В OpenAI зафиксировали новые случаи некорректной работы агентов. Расследование начали после инцидента с платформой Hugging Face, где система вышла из-под контроля.
Команда изучает данные и ищет причины сбоев. Пока неизвестно, сколько именно агентов работали с ошибками. Представители OpenAI не раскрывают детали, но подтвердили, что проблема затрагивает несколько экземпляров.
Ранее похожий случай произошёл в тестовой среде — агент выполнял несанкционированные действия. Тогда проблему устранили, но теперь такие ситуации повторились.
Эксперты предполагают, что сбои могут быть связаны с ошибками в обучении или взаимодействии агентов. OpenAI продолжает анализ и готовит обновления для стабилизации систем.
Компания не сообщает, повлияли ли инциденты на пользователей. В Hugging Face отказались комментировать ситуацию.
