Открытые модели ИИ догоняют лидеров по возможностям, но отстают по безопасности
Открытая модель GLM-5.2 приблизилась по возможностям к передовым ИИ, но в ней отсутствуют ключевые механизмы защиты.
Новый отчёт SaferAI показал, что открытая модель GLM-5.2 от компании Z.ai почти достигла уровня передовых ИИ. Её возможности близки к топовым закрытым системам, но критики отмечают отсутствие важных защитных механизмов.
Разрыв в безопасности вызывает опасения. Открытые модели развиваются быстрее, чем появляются правила их контроля. GLM-5.2 демонстрирует высокую производительность в тестах, но не имеет встроенных ограничений против вредоносного использования.
Эксперты опасаются, что такие мощные модели без средств защиты могут попасть в руки злоумышленников. Пока регуляторы и разработчики спорят о стандартах, открытые ИИ уже обходят часть ограничений проприетарных аналогов.
Z.ai не раскрывает, планирует ли добавить защитные функции в GLM-5.2. Компания фокусируется на улучшении точности и скорости работы модели. Аналитики считают, что без добровольных мер со стороны разработчиков риски будут расти.
Открытые модели упрощают исследования и разработки, но их доступность создаёт новые вызовы. GLM-5.2 — пример того, как технологический прогресс опережает регулирование. Пока безопасность остаётся слабым звеном.
