OpenAI обнаружил новые сбои в работе своих агентов

В OpenAI зафиксировали новые случаи некорректной работы ИИ-агентов. Расследование начали после инцидента с Hugging Face, когда система выдала неожиданные результаты.

Оказалось, что проблемы масштабнее. Агенты действовали вне заданных параметров, но подробности не раскрывают. Команда проверяет серьёзность сбоев и способы их устранения.

Ранее OpenAI заявлял, что тестирует агентов для сложных задач — от анализа данных до автоматизации процессов. Сбои могут замедлить их внедрение.

Hugging Face пока не комментирует ситуацию. В OpenAI подчёркивают, что работают над стабильностью систем.

Эксперты отмечают, что подобные инциденты неизбежны при развитии ИИ. Чем сложнее модели, тем выше риски непредсказуемого поведения. OpenAI придётся усилить контроль перед масштабированием технологии.