Температура генерации

Температура генерации — параметр в языковых моделях, который влияет на степень случайности выходных данных. Чем выше значение, тем более разнообразные и креативные ответы создаёт модель, а при низких значениях она становится консервативной и предсказуемой. Оптимальная температура зависит от задачи: например, для точных фактов её снижают, а для творческих текстов — повышают.