AbliterationAI запускает платформу для работы с ИИ без ограничений
Стартап предлагает доступ к мощным ИИ-моделям без встроенных защитных фильтров для тестирования кибербезопасности.
AbliterationAI разрабатывает платформу, которая предоставляет доступ к мощным ИИ-моделям с удалёнными ограничениями. Основатели компании считают, что это поможет специалистам по кибербезопасности тестировать системы так же, как это делают злоумышленники.
Стартап уже привлёк $2 млн от инвесторов, включая венчурные фонды, специализирующиеся на инфраструктуре ИИ. Платформа позволяет загружать и запускать модели без фильтров, блокирующих вредоносные запросы.
Идея проекта возникла после серии кибератак, в которых злоумышленники использовали ИИ для взлома. Разработчики утверждают, что без доступа к аналогичным инструментам защитники остаются в невыгодном положении. Критики опасаются, что сервис упростит создание вредоносного ПО и фишинговых схем.
AbliterationAI проверяет клиентов, но детали верификации не раскрываются. В открытом доступе уже есть четыре модели, включая модифицированные версии GPT-4 и Claude 3.
Эксперты разделились во мнениях. Одни поддерживают подход «изучай угрозы, чтобы противостоять им», другие считают, что риски перевешивают потенциальные преимущества. Регуляторы ЕС и США пока не комментируют проект, но уже изучают подобные сервисы.
