В США предложили закон об аварийном отключении опасного ИИ
Законопроект позволит властям требовать отключения ИИ-систем, которые представляют угрозу.
В США разработали законопроект «Об аварийном отключении ИИ». Он коснётся компаний, создающих или использующих искусственный интеллект. Если документ примут, Министерство внутренней безопасности сможет требовать отключения или ограничения мощных ИИ-систем.
Инициативу поддержали обе ведущие партии — демократы и республиканцы. Это редкий случай единодушия в Конгрессе, где вопросы регулирования технологий обычно вызывают разногласия. Закон отражает растущие опасения по поводу рисков неконтролируемых ИИ-моделей.
Пока неясно, какие именно системы попадут под действие закона. Вероятно, речь идёт о моделях, способных нанести значительный вред — например, автономном оружии или алгоритмах, угрожающих стабильности финансовых рынков.
Критики считают, что новые правила замедлят инновации. Сторонники настаивают, что безопасность важнее. Законопроект не первая попытка США регулировать ИИ, но одна из самых жёстких. Ранее Белый дом выпустил меморандум о добровольных стандартах для разработчиков.
Решение могут принять до конца года. В случае одобрения нарушителям грозят штрафы или запрет на работу с госзаказами.
