Эксперт по кибербезопасности внедрила бэкдор в открытую ИИ-модель за 100 долларов

Эксперт по кибербезопасности Кэти Пэкстон-Фир провела эксперимент с открытой моделью искусственного интеллекта. Она внедрила в неё бэкдор, потратив 100 долларов и около часа времени.

Для этого Пэкстон-Фир использовала общедоступные инструменты. Бэкдор позволял скрытно изменять поведение модели без ведома пользователей.

Эксперимент показал уязвимость открытых ИИ-систем. Злоумышленники могут применять подобные методы для тайного контроля над моделями.

Пэкстон-Фир отметила, что проблема касается не только её тестовой модели. Многие открытые ИИ-проекты подвержены таким атакам.

Специалисты рассматривают способы защиты, включая аудит кода и проверку весов моделей перед публикацией. Пока универсального решения не существует.

Эксперимент привлёк внимание разработчиков, заставив задуматься о балансе между открытостью и безопасностью в сфере ИИ.