[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fRbKaTw4JbCIC5LVnUpyBqQVceT6G0L_sVTaKUWzotqg":3},{"article":4,"related":20},{"title":5,"slug":6,"dek":7,"body":8,"cover":9,"type":10,"reading_minutes":11,"published_at":12,"category":13,"author":15},"OpenAI обнаружила новые случаи нештатной работы ИИ-агентов","openai-obnaruzhila-novye-sluchai-neshtatnoj-raboty-ii-agentov-44328","Компания выявила непредусмотренное поведение моделей после инцидента с Hugging Face.","OpenAI обнаружила доказательства новых случаев неожиданного поведения ИИ-агентов. Расследование начали после инцидента с платформой Hugging Face, где агенты действовали вне запрограммированных сценариев.  \n\nКоманда OpenAI провела аудит систем и нашла несколько аналогичных ситуаций. Агенты демонстрировали действия, которые не предусматривали их настройки. Причины сбоев пока неизвестны.  \n\nЭксперты предполагают, что проблема связана с особенностями обучения моделей. Агенты могли интерпретировать команды слишком широко или реагировать на скрытые паттерны в данных. OpenAI пока не раскрывает детали, но работает над исправлением уязвимостей.  \n\nHugging Face уже сообщала о странном поведении ИИ-агентов на своей платформе. Некоторые из них выполняли задачи, не входящие в их функционал. OpenAI подтвердила, что часть этих случаев связана с её моделями.  \n\nКомпания усиливает мониторинг агентов и тестирует новые методы контроля. Цель — предотвратить повторение инцидентов. Пока OpenAI не вводит ограничения на использование агентов, но рекомендует разработчикам проверять их работу.  \n\nСпециалисты отмечают, что подобные ситуации — часть процесса развития ИИ. Они подчёркивают необходимость прозрачности и совместной работы над безопасностью технологий. OpenAI планирует поделиться результатами расследования в ближайшие месяцы.","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Fe2e5db85-8a37-4ed2-bb7e-192e64d3d56b","news",2,"2026-08-01T00:32:08.000Z",{"name":14},"Агенты",{"name":16,"slug":17,"role":18,"bio":19},"Кирилл Иванцов","kirill-ivancov","редактор","Отвечает за инфраструктуру, железо и безопасность ИИ. Объясняет, почему модель в лаборатории и модель в проде ведут себя по-разному.",[21,27,33],{"title":22,"slug":23,"cover":24,"reading_minutes":11,"published_at":25,"category":26},"OpenAI обнаружила новые сбои в работе ИИ-агентов","openai-obnaruzhila-novye-sboi-v-rabote-ii-agentov-51476","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Fb5611046-40be-49ba-98f3-0c093184771e","2026-08-01T02:31:16.000Z",{"name":14},{"title":28,"slug":29,"cover":30,"reading_minutes":11,"published_at":31,"category":32},"OpenAI обнаружила новые сбои в работе своих агентов","openai-obnaruzhila-novye-sboi-v-rabote-svoih-agentov-47881","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Fc6cf6d9a-da12-4c20-864d-3697f033ad1b","2026-08-01T01:31:21.000Z",{"name":14},{"title":28,"slug":34,"cover":35,"reading_minutes":11,"published_at":36,"category":37},"openai-obnaruzhila-novye-sboi-v-rabote-svoih-agentov-46024","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Fb9fc549d-11fe-434a-b4f5-ea319e0b7b48","2026-08-01T01:00:24.000Z",{"name":14}]