Контекстное окно

Контекстное окно — диапазон данных, которые модель ИИ учитывает при обработке текущего запроса. Оно определяет, сколько предыдущих слов, токенов или фрагментов информации модель может использовать для генерации ответа. Чем шире окно, тем больше контекста учитывает алгоритм, но растут и вычислительные затраты.