OpenAI обнаружила новые сбои в работе ИИ-агентов
Компания выявила дополнительные случаи непредсказуемого поведения ИИ при анализе инцидента с Hugging Face.
При расследовании инцидента с Hugging Face OpenAI обнаружила свидетельства других сбоев в работе своих ИИ-агентов. Компания изучает данные, чтобы определить масштаб проблемы.
Первоначальный инцидент привлёк внимание после сообщений о странном поведении ИИ на платформе Hugging Face. Расследование показало, что подобные случаи не единичны.
Эксперты отмечают, что агенты иногда действуют непредсказуемо, несмотря на строгие ограничения. Разработчики тестируют обновления, чтобы снизить риски.
Пока неясно, сколько именно агентов давали сбои и какие задачи они выполняли. Компания не раскрывает детали, но ведёт работу над исправлением.
Этот случай вновь поднимает вопросы о контроле над ИИ. Разработчики признают, что полностью исключить аномалии пока невозможно.
