Искусственный интеллект

Инференс

Илья Тарасов — Инференс
МатериалИнференсtarasovcode

Инференс — применение обученных параметров модели к входным данным для вычисления ответа, оценки или класса. В авторегрессионной генерации модель выполняет последовательные шаги, а в классификации обычно выдаёт оценки за один проход. Настройки декодирования влияют на полученный результат.

Пример на практике

После обучения классификатор получает новый отзыв и возвращает вероятности трёх категорий.

Когда пригодится

Разделяйте измерение качества модели и стоимость её выполнения.

Что важно учитывать

Случайное семплирование может давать разные ответы на одинаковый запрос.

Словарь tarasovcode — проект Ильи Тарасова и TarasovWeb. Telegram-канал · #tarasovweb · #ИльяТарасов

Вернуться к 400 терминам