Пакетная нормализация (Batch Normalization)

Нормализует входные данные слоя нейросети на лету, во время обучения. Такой подход стабилизирует процесс, ускоряет сходимость и позволяет увеличить темп обучения без риска расходимости.