Стохастический градиентный спуск (SGD)

Алгоритм оптимизации, который шаг за шагом корректирует параметры модели, выбирая случайный пример из данных для каждого обновления. Работает быстрее обычного градиентного спуска при обучении на больших выборках, так как не требует полного пересчёта по всем данным. Чаще всего применяется в обучении нейросетей.