Neural Scaling Laws
Verificato
Significato di «Neural Scaling Laws»
Relazioni empiriche che descrivono come la perdita di un modello diminuisca in modo prevedibile, spesso secondo leggi di potenza, al crescere di parametri, dati e calcolo. Guidano la pianificazione degli addestramenti indicando come allocare al meglio le risorse.
Fonti: Leggi di potenza tra perdita e risorse. Fonti: Kaplan et al., 'Scaling Laws for Neural Language Models' (arXiv:2001.08361, 2020); Hoffmann et al., 'Training Compute-Optimal LLMs' (Chinchilla, arXiv:2203.15556, 2022). Verifica web 2026-08-03. · Verificato il 2026-08-03