Attention mask

Verificato Aggiornato il 10/09/2026

Significato di «Attention mask»

Maschera usata nel meccanismo di attenzione dei Transformer per impedire a un token di considerare determinate posizioni, azzerandone di fatto il peso. Serve a ignorare i token di riempimento (padding) e, nei modelli causali come i GPT, a nascondere i token futuri, così che ogni posizione veda solo il contesto precedente.

Fonti: Vaswani et al., Attention Is All You Need (2017); Hugging Face Transformers, Glossary · Verificato il 2026-09-10

Domande frequenti su Attention mask

Cosa significa «Attention mask»?

Maschera usata nel meccanismo di attenzione dei Transformer per impedire a un token di considerare determinate posizioni, azzerandone di fatto il peso. Serve a ignorare i token di riempimento (padding) e, nei modelli causali come i GPT, a nascondere i token futuri, così che ogni posizione veda solo il contesto precedente.

A quale glossario appartiene «Attention mask»?

«Attention mask» fa parte del glossario NLP e LLM, nella categoria Intelligenza Artificiale di Glossario Italiano.
Preferenze cookie

Gestisci i cookie usati su Glossario Italiano. Puoi modificare le preferenze in qualsiasi momento dal link "Gestisci preferenze" in fondo a ogni pagina.

  • Necessari
    Login, sicurezza (CSRF), preferenze cookie. Sempre attivi.
    Sempre on
  • Statistici
    Misurano in forma aggregata come viene usato il sito. Nessun profilo personale.
  • Marketing
    Cookie di reti pubblicitarie esterne, se attivati in futuro. Oggi GLS non usa script di terze parti e i nostri sponsor sono editoriali, non profilano.