Бывший эксперт Google DeepMind предупредил об угрозе ИИ

Билал Чугтай, эксперт по искусственному интеллекту, ушедший из Google DeepMind, считает, что время на предотвращение катастрофы сокращается. Он присоединился к списку специалистов, открыто говорящих об опасностях неконтролируемого развития ИИ.

Чугтай не уточнил конкретные риски, но подчеркнул масштаб потенциального ущерба. Его заявление прозвучало на фоне растущих дебатов о безопасности ИИ. В последние месяцы десятки исследователей и инженеров высказывали схожие опасения.

Обсуждение регулирования ИИ ускорилось после появления ChatGPT и других мощных моделей, показавших, как быстро технологии обходят существующие барьеры. В марте 2023 года более тысячи экспертов подписали открытое письмо с призывом приостановить разработку систем, превосходящих GPT-4.

Чугтай не предложил конкретных решений, но его предупреждение усилило аргументы за жёсткий контроль. Критики утверждают, что компании вроде Google и OpenAI движутся слишком быстро, игнорируя долгосрочные последствия.

Некоторые специалисты возражают, что ограничения затормозят прогресс и отдалят полезные прорывы в медицине, науке и образовании. Однако даже оптимисты признают: без чётких правил риски растут.

Пока правительства обсуждают законы, корпорации продолжают гонку. Чугтай покинул DeepMind, не назвав причину. Его уход совпал с волной увольнений в AI-стартапах, где сотрудники протестуют против неэтичных решений.

В 2022 году инженер Google Блейк Лемуан заявил, что LaMDA обладает сознанием. Компания его уволила. Аналогичные случаи произошли в OpenAI, где сотрудники жалуются на давление и спешку.

Чугтай не связал свою позицию с конкретными проектами, но его слова указывают на обострение конфликта между скоростью разработок и безопасностью.