Искусственный интеллект
RLHF, обучение с обратной связью человека
RLHF использует человеческие сравнения ответов для обучения модели предпочтений, а затем оптимизирует политику так, чтобы она получала более высокую оценку. Это семейство процедур, а не один алгоритм. Результат зависит от инструкций оценщикам, качества сравнений и соответствия модели вознаграждения реальной цели.
Пример на практике
Оценщики выбирают более полезный из двух ответов; модель вознаграждения затем оценивает новые варианты.
Когда пригодится
Применяется для настройки предпочтительного стиля и поведения модели.
Что важно учитывать
Оптимизация оценщика может усилить его систематические ошибки.
Словарь tarasovcode — проект Ильи Тарасова и TarasovWeb. Telegram-канал · #tarasovweb · #ИльяТарасов
Вернуться к 400 терминам