KV cache
Verificato
Aggiornato il 14/08/2026
Significato di «KV cache»
KV cache (cache chiave-valore): meccanismo che memorizza i tensori di chiave e valore già calcolati per i token precedenti durante la generazione autoregressiva, evitando di ricalcolarli a ogni passo e velocizzando così l'inferenza.
Fonti: Vaswani et al. 2017, Attention Is All You Need (arXiv:1706.03762); Hugging Face, KV cache / generation docs. Verifica web 2026-08-03. · Verificato il 2026-08-03
Domande frequenti su KV cache
Cosa significa «KV cache»?
KV cache (cache chiave-valore): meccanismo che memorizza i tensori di chiave e valore già calcolati per i token precedenti durante la generazione autoregressiva, evitando di ricalcolarli a ogni passo e velocizzando così l'inferenza.
A quale glossario appartiene «KV cache»?
«KV cache» fa parte del glossario NLP e LLM, nella categoria Intelligenza Artificiale di Glossario Italiano.