Исследователь Anthropic предупредил об опасности сверхразума перед IPO компании
Сотрудник уволился, заявив, что компания рискует создать неконтролируемый ИИ.
Исследователь покинул Anthropic на этой неделе. В посте в соцсети X он заявил, что компания «несётся к созданию самосовершенствующегося сверхразума и ставит на кон наши жизни». Сообщение поддержал даже глава отдела по безопасности Anthropic, не став опровергать предупреждение.
Подобные тревожные заявления звучали и раньше, но сейчас ситуация иная. По данным источников, Anthropic готовится к IPO, что делает предупреждение более весомым.
Компания известна осторожным подходом к разработке ИИ. Она создала модель Claude, которая конкурирует с ChatGPT, но с акцентом на безопасность. Однако теперь сотрудники открыто говорят о рисках.
Исследователь не привёл конкретных примеров, но описал общую тенденцию. По его словам, Anthropic ускоряет разработку, не проработав методы контроля. Это может привести к появлению ИИ, который выйдет из-под контроля.
Глава отдела безопасности компании Джеред Каплан публично согласился с этим. Он отметил, что текущие меры могут быть недостаточными.
Anthropic пока не прокомментировала ситуацию. Ранее компания заявляла, что приоритет для неё — создание безопасного ИИ. Однако подготовка к IPO может изменить планы. Инвесторы часто требуют быстрого роста, что иногда идёт вразрез с осторожным подходом.
ИИ-индустрия уже сталкивалась с подобными предупреждениями. В прошлом году уход нескольких ключевых сотрудников OpenAI также связывали с опасениями по поводу безопасности. Теперь история повторяется в Anthropic.
Эксперты разделились во мнениях. Одни считают, что предупреждение обосновано, другие — что это часть внутренних конфликтов перед IPO.
Пока неизвестно, как это повлияет на планы компании. Но ясно одно: вопрос безопасности ИИ снова в центре внимания.
