Модель вознаграждения (Reward Model)

Модель вознаграждения оценивает качество действий или ответов ИИ, имитируя человеческие предпочтения. Её обучают на примерах, где люди выбирают лучшие варианты, чтобы затем направлять обучение других алгоритмов. Такая модель подсказывает системе, какие решения выглядят естественнее, этичнее или полезнее с точки зрения человека.