Отрасль ИИ снова предупреждает об угрозах для человечества

В подкасте Equity подняли вопрос, почему индустрия ИИ снова заговорила об экзистенциальных рисках. Дискуссия развернулась вокруг реалистичности прогнозов о гибели цивилизации из-за искусственного интеллекта.

Одни эксперты утверждают, что ИИ уже в ближайшие десятилетия может выйти из-под контроля. Они ссылаются на стремительный рост мощностей алгоритмов и отсутствие регулирования. Другие считают такие заявления преувеличенными или спекулятивными.

Сторонники теории катастрофы приводят три аргумента. Первый — ИИ может развить собственные цели, несовместимые с выживанием людей. Второй — злоумышленники используют технологии для создания автономного оружия. Третий — ошибки в алгоритмах способны спровоцировать глобальные кризисы в финансовой или энергетической сферах.

Скептики возражают: современные системы далеки от общего искусственного интеллекта. Они выполняют узкие задачи и не обладают сознанием. По их мнению, паника отвлекает от реальных проблем — предвзятости алгоритмов, монополизации отрасли и роста безработицы.

Разговор в Equity показал, что индустрия расколота. Одни компании создают этические комитеты и ограничивают исследования. Другие ускоряют разработки, считая риски надуманными. Пока нет единого подхода к оценке угроз — только хаотичные обсуждения.