Multi-head attention
Verificato
Aggiornato il 14/08/2026
Significato di «Multi-head attention»
Meccanismo del Transformer che esegue più operazioni di attenzione in parallelo, ciascuna con proiezioni distinte di query, key e value, per catturare relazioni diverse tra i token; i risultati delle teste vengono poi concatenati e proiettati.
Fonti: Attenzione multi-testa in parallelo con proiezioni distinte. Fonti: Vaswani et al., "Attention Is All You Need" (arXiv:1706.03762); Jurafsky & Martin, "Speech and Language Processing". Verifica web 2026-08-03. · Verificato il 2026-08-03
Domande frequenti su Multi-head attention
Cosa significa «Multi-head attention»?
Meccanismo del Transformer che esegue più operazioni di attenzione in parallelo, ciascuna con proiezioni distinte di query, key e value, per catturare relazioni diverse tra i token; i risultati delle teste vengono poi concatenati e proiettati.
A quale glossario appartiene «Multi-head attention»?
«Multi-head attention» fa parte del glossario NLP e LLM, nella categoria Intelligenza Artificiale di Glossario Italiano.