Искусственный интеллект
Семплирование с температурой
Температура масштабирует логиты перед семплированием следующего токена. Низкое значение концентрирует вероятность на наиболее сильных кандидатах, высокое распределяет её шире. Температура влияет на разброс генерации, но не предоставляет модели новых знаний и не гарантирует разнообразный или качественный текст.
Пример на практике
Для вариативных названий задают температуру выше, чем для точного извлечения кода.
Когда пригодится
Оценивайте несколько генераций на целевой задаче.
Что важно учитывать
Слишком высокая температура увеличивает вероятность несвязного продолжения.
Словарь tarasovcode — проект Ильи Тарасова и TarasovWeb. Telegram-канал · #tarasovweb · #ИльяТарасов
Вернуться к 400 терминам