Крупные технологические компании предлагают защиту от опасного ИИ
Компании и стартапы в сфере ИИ объединились для борьбы с новыми киберугрозами.
Корпорации и стартапы в сфере искусственного интеллекта объединились, чтобы предупредить о рисках, связанных с его развитием. В открытом обращении они раскритиковали текущий уровень кибербезопасности и предложили меры противодействия новым угрозам. Среди подписавшихся — OpenAI, Anthropic, Google и ещё 100 компаний.
Эксперты опасаются, что злоумышленники могут использовать ИИ для масштабных атак. Алгоритмы способны автоматизировать взлом систем, создавать фишинговые схемы и распространять дезинформацию. Чтобы предотвратить это, компании предлагают внедрить единый стандарт защиты.
Инициатива включает три ключевых пункта: обязательный аудит мощных ИИ-моделей перед выпуском, создание инструментов для отслеживания злоупотреблений и юридическую ответственность разработчиков за вред, причинённый их системами.
Критики считают, что предложенные меры могут замедлить инновации. Некоторые стартапы опасаются, что жёсткое регулирование ограничит доступ к технологиям для небольших игроков. Однако авторы инициативы настаивают — без контроля риски перевесят преимущества.
Пока неясно, как именно будут реализованы новые правила. Компании обсуждают варианты — от добровольного соблюдения до законодательного регулирования. Решающую роль может сыграть давление инвесторов и клиентов.
Ситуация напоминает ранние этапы регулирования интернета, когда требовался баланс между свободой и безопасностью. С ИИ ставки выше — ошибки могут привести к глобальным последствиям.
