Искусственный интеллект

Архитектура энкодер-декодер

Илья Тарасов — Архитектура энкодер-декодер
МатериалАрхитектура энкодер-декодерtarasovcode

Энкодер преобразует вход в последовательность скрытых представлений, а декодер использует их для создания выхода. Перекрёстное внимание связывает этапы. Такая схема естественна для перевода, суммаризации и преобразования аудио в текст; варианты могут разделять параметры или использовать разные типы блоков.

Пример на практике

Система получает аудиофрагмент, кодирует акустические признаки и декодирует транскрипцию.

Когда пригодится

Выбирайте для задач, где вход и выход — связанные последовательности.

Что важно учитывать

Длина декодирования и ошибки ранних токенов влияют на последующие шаги.

Словарь tarasovcode — проект Ильи Тарасова и TarasovWeb. Telegram-канал · #tarasovweb · #ИльяТарасов

Вернуться к 400 терминам