Искусственный интеллект
Размер пакета
Размер пакета — количество примеров, совместно используемых для оценки градиента или вычисления шага оптимизации. Большие пакеты дают менее шумную оценку, но требуют больше памяти и могут менять динамику обобщения. При ограниченной памяти пакет иногда накапливают несколькими микропакетами.
Пример на практике
За один шаг классификатор обрабатывает 64 изображения, затем вычисляет общую потерю.
Когда пригодится
Указывайте эффективный размер с учётом накопления градиентов.
Что важно учитывать
Нельзя сравнивать скорость обучения без учёта размера пакета.
Словарь tarasovcode — проект Ильи Тарасова и TarasovWeb. Telegram-канал · #tarasovweb · #ИльяТарасов
Вернуться к 400 терминам