Nvidia и альянс Open Secure AI предложили защиту от ИИ-агентов

Альянс Open Secure AI, созданный Nvidia неделю назад, уже объединил более 120 компаний. Участники подготовили первые предложения по защите от потенциально опасных ИИ-агентов.

Nvidia возглавила инициативу, быстро привлекшую крупных игроков отрасли. В альянс вошли производители чипов, разработчики софта и исследовательские группы. Их цель — разработать стандарты безопасности для взаимодействия с автономными ИИ-агентами.

Первые предложения касаются методов контроля агентов, способных действовать без прямого надзора человека. Технологии включают инструменты мониторинга, ограничения доступа и экстренного отключения.

Эксперты отмечают, что альянс действует необычно быстро для отраслевого объединения. Обычно подобные инициативы тратят месяцы на согласование позиций, но здесь первые наработки появились за неделю.

Nvidia не раскрыла детали предложений, но подтвердила, что они переданы ключевым регуляторам. В компании заявили о готовности сотрудничать с другими альянсами в сфере ИИ-безопасности.

Аналитики связывают скорость работы с растущим давлением на индустрию. После нескольких случаев злоупотребления ИИ-агентами компании стремятся доказать способность к саморегулированию.