Distillazione della conoscenza
Verificato
Aggiornato il 14/08/2026
Significato di «Distillazione della conoscenza»
Distillazione della conoscenza: tecnica di compressione in cui un modello piccolo (studente) viene addestrato a imitare le uscite di uno più grande (insegnante), apprendendo dalle sue distribuzioni di probabilità per ottenere prestazioni simili con meno risorse.
Fonti: Hinton et al. 2015, Distilling the Knowledge in a Neural Network (arXiv:1503.02531); Hugging Face, DistilBERT docs. Verifica web 2026-08-03. · Verificato il 2026-08-03
Domande frequenti su Distillazione della conoscenza
Cosa significa «Distillazione della conoscenza»?
Distillazione della conoscenza: tecnica di compressione in cui un modello piccolo (studente) viene addestrato a imitare le uscite di uno più grande (insegnante), apprendendo dalle sue distribuzioni di probabilità per ottenere prestazioni simili con meno risorse.
A quale glossario appartiene «Distillazione della conoscenza»?
«Distillazione della conoscenza» fa parte del glossario NLP e LLM, nella categoria Intelligenza Artificiale di Glossario Italiano.