Искусственный интеллект
Регуляризация
Регуляризация ограничивает решения модели или усложняет подгонку отдельных параметров ради лучшего переноса на новые данные. К ней относят штрафы на веса, случайное отключение активаций, аугментацию и раннюю остановку. Способ должен соответствовать источнику переобучения.
Пример на практике
L2-штраф уменьшает склонность линейного классификатора к чрезмерно крупным коэффициентам.
Когда пригодится
Оценивайте её эффект на валидационной выборке.
Что важно учитывать
Чрезмерный штраф приводит к недообучению.
Словарь tarasovcode — проект Ильи Тарасова и TarasovWeb. Telegram-канал · #tarasovweb · #ИльяТарасов
Вернуться к 400 терминам