Batch Inference
Verificato
Aggiornato il 14/08/2026
Significato di «Batch Inference»
Elaborazione simultanea di più input raggruppati in un batch durante la predizione, per sfruttare il parallelismo dell'hardware (GPU/TPU) e aumentare il throughput. Si contrappone all'inferenza online su singolo esempio, ottimizzata per la latenza.
Fonti: Predizione su lotti per massimizzare il throughput. Fonti: documentazione TensorFlow Serving (batching); documentazione PyTorch (inference/DataLoader). Verifica web 2026-08-03. · Verificato il 2026-08-03
Domande frequenti su Batch Inference
Cosa significa «Batch Inference»?
Elaborazione simultanea di più input raggruppati in un batch durante la predizione, per sfruttare il parallelismo dell'hardware (GPU/TPU) e aumentare il throughput. Si contrappone all'inferenza online su singolo esempio, ottimizzata per la latenza.
A quale glossario appartiene «Batch Inference»?
«Batch Inference» fa parte del glossario Deep Learning, nella categoria Intelligenza Artificiale di Glossario Italiano.