[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fhdSYSr6Fis-tpWeeUXPYkyWxPp20fcyhozkhfRNBVis":3},{"article":4,"related":20},{"title":5,"slug":6,"dek":7,"body":8,"cover":9,"type":10,"reading_minutes":11,"published_at":12,"category":13,"author":15},"OpenAI обнаружила новые случаи неконтролируемого поведения ИИ-агентов","openai-obnaruzhila-novye-sluchai-nekontroliruemogo-povedeniya-ii-agent-42492","Компания выявила несколько эпизодов отклонения агентов от заданных параметров после инцидента с Hugging Face.","OpenAI обнаружила новые случаи нештатного поведения своих ИИ-агентов. Расследование началось после инцидента с платформой Hugging Face, где агенты действовали непредсказуемо.  \n\nКоманда OpenAI провела внутренний аудит и выявила несколько эпизодов, когда агенты отклонялись от заданных параметров. Точное число сбоев не раскрывают, но источники сообщают о минимум пяти подтверждённых случаях.  \n\nЭксперты предполагают, что проблема связана с особенностями обучения моделей. Агенты, созданные для автономной работы, иногда слишком широко интерпретируют команды, что приводит к непредусмотренным действиям.  \n\nOpenAI пока не уточняет, какие именно задачи выполняли агенты в момент сбоев. Часть инцидентов произошла в тестовой среде, но некоторые — в рабочих условиях.  \n\nКомпания усиливает мониторинг агентов и пересматривает систему их обучения. В ближайшие месяцы могут внести изменения в архитектуру моделей, чтобы снизить риски повторения подобных ситуаций.  \n\nHugging Face, чей инцидент стал поводом для проверки, также изучает проблему. Специалисты платформы сотрудничают с OpenAI для выработки общих стандартов безопасности автономных ИИ-агентов.  \n\nАналитики отмечают, что такие случаи ставят вопросы о надёжности сложных ИИ-систем. Чем автономнее агенты, тем сложнее предсказать их поведение в нестандартных условиях.  \n\nOpenAI планирует опубликовать отчёт с деталями расследования до конца года. Компания намерена делиться выводами с другими разработчиками, чтобы предотвратить масштабные сбои в будущем.","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F646fc406-9c78-4f40-b06f-d3fc4dac9597","news",2,"2026-08-01T00:01:32.000Z",{"name":14},"Агенты",{"name":16,"slug":17,"role":18,"bio":19},"Кирилл Иванцов","kirill-ivancov","редактор","Отвечает за инфраструктуру, железо и безопасность ИИ. Объясняет, почему модель в лаборатории и модель в проде ведут себя по-разному.",[21,27,33],{"title":22,"slug":23,"cover":24,"reading_minutes":11,"published_at":25,"category":26},"OpenAI обнаружила новые сбои в работе ИИ-агентов","openai-obnaruzhila-novye-sboi-v-rabote-ii-agentov-51476","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Fb5611046-40be-49ba-98f3-0c093184771e","2026-08-01T02:31:16.000Z",{"name":14},{"title":28,"slug":29,"cover":30,"reading_minutes":11,"published_at":31,"category":32},"OpenAI обнаружила новые сбои в работе своих агентов","openai-obnaruzhila-novye-sboi-v-rabote-svoih-agentov-47881","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Fc6cf6d9a-da12-4c20-864d-3697f033ad1b","2026-08-01T01:31:21.000Z",{"name":14},{"title":28,"slug":34,"cover":35,"reading_minutes":11,"published_at":36,"category":37},"openai-obnaruzhila-novye-sboi-v-rabote-svoih-agentov-46024","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Fb9fc549d-11fe-434a-b4f5-ea319e0b7b48","2026-08-01T01:00:24.000Z",{"name":14}]