Искусственный интеллект

Функция softmax

Илья Тарасов — Функция softmax
МатериалФункция softmaxtarasovcode

Softmax преобразует набор логитов в неотрицательные значения, сумма которых равна единице, и тем самым задаёт категориальное распределение. Она усиливает различия между оценками в зависимости от масштаба. В классификации обычно выбирают класс с максимальной вероятностью, но эта вероятность не обязательно калибрована.

Пример на практике

Логиты трёх классов превращаются в вероятности 0,7, 0,2 и 0,1.

Когда пригодится

Используйте для нормировки альтернативных классов и семплирования токена.

Что важно учитывать

Большой логит сам по себе не подтверждает корректность предсказания.

Словарь tarasovcode — проект Ильи Тарасова и TarasovWeb. Telegram-канал · #tarasovweb · #ИльяТарасов

Вернуться к 400 терминам