Искусственный интеллект

Обучение учитель—ученик

Илья Тарасов — Обучение учитель—ученик
МатериалОбучение учитель—ученикtarasovcode

Схема учитель—ученик передаёт обучающие сигналы от одной модели другой. Учитель может быть крупнее, усреднённой копией ученика или ансамблем. Ученик получает целевые распределения либо псевдометки; конкретный способ определяет, какую информацию и ошибки он перенимает.

Пример на практике

EMA-копия сети выдаёт стабильные метки неразмеченным изображениям, а основная сеть учится на них.

Когда пригодится

Применяйте для сжатия или полунадзорного обучения.

Что важно учитывать

Качество ученических целей зависит от точности и смещения учителя.

Словарь tarasovcode — проект Ильи Тарасова и TarasovWeb. Telegram-канал · #tarasovweb · #ИльяТарасов

Вернуться к 400 терминам