Искусственный интеллект
Предварительное обучение
Предварительное обучение — этап, на котором модель осваивает общие закономерности на большом корпусе до настройки под конкретную задачу. Целевая задача может быть самоконтролируемой, например предсказанием продолжения или восстановлением скрытого фрагмента. Полученные параметры затем переиспользуются при адаптации.
Пример на практике
Энкодер сначала обучают на неразмеченных предложениях, а затем на размеченных примерах тональности.
Когда пригодится
Используйте, когда доступно меньше целевой разметки, чем общих данных.
Что важно учитывать
Состав исходного корпуса влияет на смещения и переносимость.
Словарь tarasovcode — проект Ильи Тарасова и TarasovWeb. Telegram-канал · #tarasovweb · #ИльяТарасов
Вернуться к 400 терминам