Яндекс представил исследования по ускорению обучения ИИ и оптимизации серверов
Исследователи Яндекса представили на конференции ICML методы ускорения обучения ИИ и снижения нагрузки на серверы.
Исследователи и инженеры Яндекса опубликовали серию научных работ на International Conference on Machine Learning (ICML). Они представили методы, которые ускоряют обучение генеративных моделей и снижают нагрузку на серверы.
Одна из работ посвящена алгоритму, сокращающему время обучения моделей в три раза. Технология позволяет добиться того же качества результатов при меньших вычислительных затратах. В основе метода лежит оптимизация подбора гиперпараметров.
Вторая разработка касается распределения ресурсов в дата-центрах. Инженеры предложили систему, которая автоматически балансирует нагрузку между серверами. Это снижает энергопотребление на 15% без потери производительности.
Третье исследование описывает способ улучшения генеративных моделей для работы с редкими языками. Алгоритм адаптирует обучение под малые наборы данных, сохраняя точность предсказаний. Метод уже протестирован на пяти языках с ограниченными ресурсами.
Все разработки уже применяются в инфраструктуре Яндекса. Часть решений доступна в открытых библиотеках компании. Исследователи планируют развивать методы для более сложных архитектур нейросетей.
