Искусственный интеллект
Расписание скорости обучения
Расписание задаёт, как скорость обучения меняется по шагам или эпохам. Например, линейное затухание снижает её к концу тренировки, а косинусное — плавно меняет по косинусной кривой. Параметры расписания связаны с общим бюджетом шагов и начальным разогревом.
Пример на практике
После короткого разогрева скорость постепенно снижается на протяжении оставшихся эпох.
Когда пригодится
Согласуйте расписание с запланированным числом обновлений.
Что важно учитывать
Изменение продолжительности обучения без пересчёта расписания меняет поведение.
Словарь tarasovcode — проект Ильи Тарасова и TarasovWeb. Telegram-канал · #tarasovweb · #ИльяТарасов
Вернуться к 400 терминам