Искусственный интеллект
Авторегрессионная языковая модель
Авторегрессионная языковая модель раскладывает вероятность текста на условные вероятности следующего токена при уже известных предыдущих. При генерации она повторяет это предсказание, добавляя токен к контексту. Обучение часто использует сдвинутые пары входа и целевого продолжения.
Пример на практике
После «Зимой на деревьях лежал…» модель оценивает вероятные следующие токены и продолжает фразу.
Когда пригодится
Используется для генерации текста и продолжения последовательностей.
Что важно учитывать
Правдоподобное продолжение может содержать фактическую ошибку.
Словарь tarasovcode — проект Ильи Тарасова и TarasovWeb. Telegram-канал · #tarasovweb · #ИльяТарасов
Вернуться к 400 терминам