Искусственный интеллект
Структурное отсечение
Структурное отсечение удаляет целые группы параметров, например фильтры, каналы, нейроны или головы внимания. Полученная сеть имеет меньшие плотные слои, которые легче исполнять стандартными вычислительными ядрами. Важно проверить, что удалённые группы действительно несли малый вклад на целевой задаче.
Пример на практике
После удаления нескольких каналов модель изображений сохраняет близкую точность и быстрее выполняется.
Когда пригодится
Подходит для уменьшения плотной архитектуры под ограниченное устройство.
Что важно учитывать
Удаление одной структуры может изменить работу следующих слоёв.
Словарь tarasovcode — проект Ильи Тарасова и TarasovWeb. Telegram-канал · #tarasovweb · #ИльяТарасов
Вернуться к 400 терминам