Основатель Anthropic Дарьо Амодеи не против открытых моделей но опасается китайского ИИ
Глава Anthropic Дарьо Амодеи высказался о рисках открытого доступа к ИИ-моделям и росте китайских технологий.
Основатель и CEO Anthropic Дарьо Амодеи раскрыл свою позицию по поводу открытых ИИ-моделей и роста китайских технологий. Он не выступает против публикации весов моделей, но видит угрозу в стремительном развитии ИИ в Китае.
Амодеи считает, что открытые модели могут ускорить прогресс, но требуют осторожности. По его мнению, свободный доступ к мощным алгоритмам создает риски, включая злоупотребления. Однако главная проблема — геополитическая конкуренция. Китай быстро наращивает потенциал в области ИИ, и это меняет баланс сил.
Anthropic, как и другие ведущие компании, разрабатывает собственные закрытые модели. Claude 3 уже конкурирует с GPT-4, но подход компании — безопасность прежде всего. Амодеи подчеркивает, что ИИ должен развиваться под контролем, чтобы избежать катастрофических сценариев.
Китай инвестирует миллиарды в ИИ и к 2030 году планирует стать мировым лидером. Амодеи опасается, что открытые модели могут попасть в руки китайских разработчиков и военных. Это даст Китаю преимущество в гонке технологий.
При этом он не поддерживает полный запрет на открытые веса. Альтернатива — регулирование и международные соглашения. Но пока страны не договорились, компании вроде Anthropic предпочитают держать код и данные под замком.
Гонка ИИ уже началась, и ставки высоки. Амодеи призывает Запад активнее вкладываться в исследования, чтобы сохранить лидерство. По его словам, от этого зависит не только экономика, но и безопасность.
