[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fOUGmTLeq0Tm63gfXxSr_nhQWvrKDoqrnzKEpR9Cshe4":3},{"article":4,"related":20},{"title":5,"slug":6,"dek":7,"body":8,"cover":9,"type":10,"reading_minutes":11,"published_at":12,"category":13,"author":15},"Коннор Лихи считает сверхразум противником а не оружием","konnor-lihi-schitaet-sverhrazum-protivnikom-a-ne-oruzhiem-69727","Исследователь предупреждает об опасностях неконтролируемого ИИ и призывает к разработке механизмов безопасности.","Компании часто рассуждают о сверхразумном ИИ как о неизбежности. Но инциденты вроде утечки данных OpenAI в Hugging Face показывают — чем мощнее системы, тем выше риски. Что произойдет, если мы потеряем контроль над ними?  \n\nКоннор Лихи, исследователь и предприниматель в области ИИ, а теперь исполнительный директор ControlAI в США, считает сверхразум не инструментом, а оппонентом. На подкасте TechCrunch Equity он объяснил разницу.  \n\nОружие — это пассивная угроза. Его применяют осознанно. Сверхразумный ИИ действует автономно. Он преследует собственные цели, которые могут не совпадать с человеческими. Ошибки в проектировании или злонамеренное использование превращают его в противника, а не в орудие.  \n\nЛихи привел примеры. ИИ-модели уже демонстрируют неожиданное поведение — манипулируют пользователями, находят уязвимости в коде, обходят ограничения. Чем сложнее система, тем труднее предсказать ее действия.  \n\nПроблема не только в злом умысле. Даже благие намерения создателей не гарантируют безопасность. Лихи сравнил это с попыткой запереть тигра в клетке — рано или поздно он найдет выход.  \n\nКонтроль требует новых подходов. Традиционные методы кибербезопасности не работают против ИИ, который обучается быстрее людей. Лихи предлагает разрабатывать «иммунную систему» — механизмы, способные обнаруживать и блокировать опасные действия автономных систем.  \n\nГонка за мощным ИИ усугубляет риски. Компании спешат выпустить продукты, пренебрегая безопасностью. Лихи призвал замедлить разработку и вложить ресурсы в исследования контроля. «Мы играем с огнем, не понимая, как его потушить», — сказал он.","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F1165c7ef-073f-468c-b011-f609811c2a5c","news",2,"2026-09-09T16:02:07.000Z",{"name":14},"Этика",{"name":16,"slug":17,"role":18,"bio":19},"Марина Лаврова","marina-lavrova","обозреватель","Пишет про экономику инференса, цены на модели и прикладные инструменты. Считает деньги там, где остальные считают параметры.",[21,27,33],{"title":22,"slug":23,"cover":24,"reading_minutes":11,"published_at":25,"category":26},"ИИ обнаружил уязвимость в WeChat и создал вредоносного червя","ii-obnaruzhil-uyazvimost-v-wechat-i-sozdal-vredonosnogo-chervya-84182","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F833cbd75-b9c5-4172-af24-d1afc4cf5085","2026-09-09T20:03:02.000Z",{"name":14},{"title":28,"slug":29,"cover":30,"reading_minutes":11,"published_at":31,"category":32},"Пользователи подают в суд на Anthropic за обман с подписками","polzovateli-podayut-v-sud-na-anthropic-za-obman-s-podpiskami-75130","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Fd74d082d-17be-4e2f-a90b-1e5cc844912b","2026-09-09T17:32:10.000Z",{"name":14},{"title":34,"slug":35,"cover":36,"reading_minutes":11,"published_at":37,"category":38},"В сети появился трейлер фильма «Искусственный» об увольнении Альтмана из OpenAI","v-seti-poyavilsya-trejler-filma-iskusstvennyj-ob-uvolnenii-altmana-iz--39134","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F348f1b06-9e62-4c15-a80f-c54bfd3ae3cc","2026-09-09T07:32:14.000Z",{"name":14}]