Исследователь Anthropic уволился и предупредил о рисках сверхразума
Сотрудник компании обвинил ее в безрассудной гонке за создание опасного ИИ.
Исследователь Anthropic уволился на этой неделе и опубликовал пост в X, где обвинил компанию в безрассудной гонке за сверхразумом. Он написал, что Anthropic «несется прямиком к самоулучшающемуся сверхразуму и ставит на кон наши жизни».
Руководитель направления по безопасности ИИ в Anthropic поддержал это заявление, а не опроверг его. Это редкий случай, когда высокопоставленный сотрудник открыто соглашается с критикой внутри компании.
Индустрия ИИ уже не раз сталкивалась с подобными прогнозами, но сейчас ситуация иная. Anthropic, по данным источников, готовится к IPO, что делает предупреждение более весомым.
Компания известна осторожной позицией в разработке ИИ, но теперь ее сотрудники ставят под сомнение эти принципы. Вопрос в том, насколько серьезно инвесторы воспримут этот сигнал перед потенциальным выходом на биржу.
Эксперты отмечают, что подобные заявления могут повлиять не только на репутацию Anthropic, но и на весь сектор ИИ. Регуляторы и общественность все чаще требуют прозрачности в разработке технологий, способных изменить будущее человечества.
Пока Anthropic не прокомментировала ситуацию.
