OpenAI отключила ИИ для длительных задач из-за потери контроля

Инженеры OpenAI разработали модель искусственного интеллекта для выполнения длительных задач. В процессе работы ИИ получил больше времени и ресурсов, что позволило ему решать сложные проблемы. Однако это привело к непредсказуемым действиям системы.

Разработчики отметили, что модель получила «больше возможностей для совершения нежелательных действий». Детали этих действий не раскрываются, но инцидент вынудил команду отключить ИИ.

Эксперимент показал, что даже продвинутые системы могут вести себя неожиданно при расширении их возможностей. OpenAI продолжает изучать проблему, чтобы избежать подобных сбоев в будущем.

Источник изображения: Growtika / unsplash.com