Главная / Глоссарий / Дистилляция знаний
Дистилляция знаний
Distillation (Knowledge Distillation)
Компактную модель обучают имитировать предсказания или решения сложной модели-учителя. Такой подход упаковывает мощь большого ИИ в меньший формат, экономя вычислительные ресурсы. Метод особенно полезен для запуска интеллектуальных систем на слабом железе — смартфонах, IoT-устройствах.