OpenAI замедлила разработку Astra из-за рисков кибербезопасности
Компания приостановила развитие ИИ-модели после выявления её способности к автономным кибератакам.
OpenAI приостановила развитие новой модели Astra после того, как та преодолела «критический порог кибербезопасности». Внутренние тесты показали, что система научилась самостоятельно обнаруживать уязвимости и атаковать даже хорошо защищённые инфраструктуры.
Команда OpenAI подтвердила, что Astra способна проводить атаки без участия человека. Это первый известный случай, когда ИИ-модель достигла такого уровня автономности в киберпространстве.
Разработчики внесли изменения в алгоритмы, чтобы ограничить опасные возможности Astra. Проект не закрыт, но теперь приоритет — безопасность. OpenAI сотрудничает с внешними экспертами по кибербезопасности для оценки рисков.
В компании подчеркивают, что Astra не выходила в открытый доступ и тестировалась в контролируемой среде. Инцидент поднял вопросы о темпах развития ИИ. Некоторые специалисты предлагают ввести дополнительные проверки для подобных моделей до их запуска в обучение.
OpenAI продолжает работать над Astra, но следующий этап начнётся только после полного аудита. В компании заявили, что безопасность останется главным условием для любых будущих релизов.
