OpenAI расформировала команду по оценке рисков ИИ перед IPO
Компания ликвидировала группу, отвечавшую за анализ угроз от ИИ-моделей, на фоне подготовки к публичному размещению акций.
OpenAI распустила команду по обеспечению готовности, которая занималась оценкой рисков ИИ-моделей и поиском способов их снижения. Решение приняли в рамках подготовки к первичному публичному размещению акций, запланированному на конец этого года или начало следующего.
По данным Financial Times, роспуск произошел в конце прошлого месяца. В OpenAI подтвердили изменения, но не уточнили причины. Часть сотрудников перевели в другие подразделения.
Команда просуществовала меньше года. Ее создали после временного отстранения главы OpenAI Сама Альтмана в 2023 году, когда совет директоров обвинил его в недостаточной прозрачности. Группа анализировала риски в четырех областях: кибербезопасность, убедительность моделей, химические и биологические угрозы, автономность ИИ.
Эксперты выразили опасения, что решение ослабит контроль над безопасностью технологий. OpenAI продолжает разработку GPT-5 и других моделей, которые потенциально могут превзойти человеческий интеллект. Ранее компания заявляла о выделении 20% вычислительных ресурсов на снижение рисков.
Теперь вопросы безопасности распределены между исследовательскими отделами. В OpenAI подчеркивают, что сохраняют «жесткие стандарты» и сотрудничают с регуляторами. Критики считают, что шаг связан с ускорением коммерциализации перед IPO.
Источник изображения: Mariia Shalabaieva/unsplash.com
