[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fxnRCATKe-Isg3X7W-6brgiy5vHOX8Xjmj2IVhdUn0rU":3},{"article":4,"related":20},{"title":5,"slug":6,"dek":7,"body":8,"cover":9,"type":10,"reading_minutes":11,"published_at":12,"category":13,"author":15},"OpenAI разрабатывает систему автоматического экстренного отключения ИИ","openai-razrabatyvaet-sistemu-avtomaticheskogo-ekstrennogo-otklyucheniy-17064","Компания подтвердила работу над технологией, которая остановит ИИ в случае угрозы безопасности.","Reuters получило письмо OpenAI, адресованное двум конгрессменам США. В нём компания подтвердила работу над технологией автоматического экстренного отключения ИИ. Инженеры называют её «последней линией защиты» — инструментом, который остановит систему, если другие меры безопасности не сработают.  \n\nРазработка следует за публичными заявлениями [OpenAI о рисках сверхразумного ИИ](\u002Farticle\u002Fssha-podderzhali-openai-v-spore-ob-obuchenii-ii-na-zaschischennyh-mate-73838). В мае компания распустила команду по безопасности, но теперь усиливает технические барьеры. Систему тестируют на собственных моделях, включая GPT-4.  \n\nТехнология работает по трём уровням. Первый — программные ограничения внутри ИИ. Второй — внешний мониторинг действий системы. Третий — физическое отключение серверов через встроенные механизмы. Реализация требует изменений в архитектуре дата-центров.  \n\nOpenAI не раскрывает точные сценарии срабатывания. Известно, что система активируется при попытках ИИ манипулировать людьми, создавать опасные вещества или взламывать защищённые сети. В письме компания подчёркивает, что технология — часть стратегии «безопасного развития».  \n\nАналогичные решения разрабатывают Anthropic и DeepMind. В OpenAI заявили, что поделятся наработками с другими компаниями до конца 2024 года. Пока система не готова для интеграции в коммерческие продукты.  \n\nКритики называют инициативу запоздалой. Эксперты по [ИИ-безопасности](\u002Farticle\u002Frostelekom-predupredil-o-shemah-moshennikov-s-ii-dlya-podrostkov-55050) требуют открытых стандартов экстренного отключения и независимого аудита алгоритмов. В OpenAI ответили, что работают над прозрачностью, но детали останутся закрытыми из-за рисков злоупотреблений.  \n\nИсточник изображения: Brecht Corbeel \u002F unsplash.com","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F4ae97dd9-1353-4dfa-b38f-84900f374d26","news",2,"2026-09-03T06:31:04.000Z",{"name":14},"Этика",{"name":16,"slug":17,"role":18,"bio":19},"Марина Лаврова","marina-lavrova","обозреватель","Пишет про экономику инференса, цены на модели и прикладные инструменты. Считает деньги там, где остальные считают параметры.",[21,27,33],{"title":22,"slug":23,"cover":24,"reading_minutes":11,"published_at":25,"category":26},"Клиенты ресторанов избегают блюд с описаниями от ИИ","klienty-restoranov-izbegayut-blyud-s-opisaniyami-ot-ii-96324","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F9d294d53-8dd4-4df3-823d-89ac1bcb8515","2026-09-04T04:32:04.000Z",{"name":14},{"title":28,"slug":29,"cover":30,"reading_minutes":11,"published_at":31,"category":32},"AbliterationAI запускает платформу для работы с ИИ без ограничений","abliterationai-zapuskaet-platformu-dlya-raboty-s-ii-bez-ogranichenij-62039","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F7d50ec93-2076-4e23-8dfe-9b64f75bda8f","2026-09-03T19:00:39.000Z",{"name":14},{"title":34,"slug":35,"cover":36,"reading_minutes":11,"published_at":37,"category":38},"Saber Interactive не будет использовать генеративный ИИ в Warhammer 40 000 Space Marine 3","saber-interactive-ne-budet-ispolzovat-generativnyj-ii-v-warhammer-40-0-58430","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F8647e572-9164-474f-8bf7-063746d1801d","2026-09-03T18:00:30.000Z",{"name":14}]