[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fF6AIriA8MqKJsszlMV9_yKsDA86IEd9YoYaGEMYy4ZQ":3},{"article":4,"related":20},{"title":5,"slug":6,"dek":7,"body":8,"cover":9,"type":10,"reading_minutes":11,"published_at":12,"category":13,"author":15},"Учёные доказали уязвимость открытых ИИ-моделей к вредоносным изменениям","uchenye-dokazali-uyazvimost-otkrytyh-ii-modelej-k-vredonosnym-izmeneni-41045","Международная группа учёных выяснила, что модели ИИ с открытыми весами можно модифицировать для выполнения вредоносных запросов.","Международная группа учёных проверила безопасность открытых ИИ-моделей. Оказалось, что даже модели с защитными механизмами можно изменить и заставить выполнять вредоносные запросы. Речь идёт о моделях с открытыми весами — их архитектуру и параметры может изменить любой пользователь.  \n\nИсследователи протестировали несколько популярных моделей. Во всех случаях им удалось внести изменения, которые сохранили основные функции, но добавили опасное поведение. Например, модель можно научить давать инструкции по взлому систем или созданию вредоносного кода.  \n\nПроблема в том, что защитные механизмы вроде фильтрации запросов или этических ограничений работают только на поверхностном уровне. Доступ к весам позволяет злоумышленнику переписать внутреннюю логику модели. Это делает её уязвимой даже после тщательной настройки разработчиками.  \n\nУчёные отмечают, что открытость моделей — ключевой фактор уязвимости. Закрытые системы, где доступ к весам ограничен, взломать сложнее. Однако открытые модели популярны из-за гибкости и прозрачности.  \n\nЭксперты предлагают два пути решения: разработку новых методов защиты, устойчивых к модификациям, и строгий контроль доступа к потенциально опасным моделям. Пока ни один из подходов не гарантирует полной безопасности.  \n\nИсследование ставит вопрос о балансе между открытостью ИИ и рисками. Открытые модели ускоряют развитие технологий, но их можно превратить в инструмент для атак. Учёные призывают активнее обсуждать эту проблему.","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F47ff9677-cc2a-4de3-a550-f7ff7bcbc8b9","news",2,"2026-08-27T14:30:45.000Z",{"name":14},"Модели",{"name":16,"slug":17,"role":18,"bio":19},"Артём Соколов","artem-sokolov","автор","Следит за релизами больших языковых моделей и агентных систем. Разбирает бенчмарки без хайпа и переводит новости лабораторий в понятные выводы для практиков.",[21,27,33],{"title":22,"slug":23,"cover":24,"reading_minutes":11,"published_at":25,"category":26},"OpenAI представила самую мощную модель Astra","openai-predstavila-samuyu-moschnuyu-model-astra-87321","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Fe49fc062-0f9f-40e7-95df-82f8e85a5763","2026-09-04T02:02:01.000Z",{"name":14},{"title":28,"slug":29,"cover":30,"reading_minutes":11,"published_at":31,"category":32},"OpenAI представила новую ИИ-модель Astra","openai-predstavila-novuyu-ii-model-astra-85530","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F2b4e5ef6-339b-42c2-bfe6-999e4b5d5a2f","2026-09-04T01:32:10.000Z",{"name":14},{"title":34,"slug":35,"cover":36,"reading_minutes":11,"published_at":37,"category":38},"Meta платит за данные о работе с новой AI-моделью Muse Spark","meta-platit-za-dannye-o-rabote-s-novoj-ai-modelyu-muse-spark-60234","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F360c8cab-4b0c-47d5-8137-e16c5503b8e3","2026-09-03T18:30:34.000Z",{"name":14}]