Adagrad
Verificato
Significato di «Adagrad»
Variante della discesa del gradiente che adatta il tasso di apprendimento separatamente per ogni parametro in base alla somma dei quadrati dei gradienti passati; è utile con dati sparsi ma il tasso tende a decrescere troppo.
Fonti: Ottimizzazione. Duchi, Hazan, Singer (2011); Goodfellow, Bengio, Courville, Deep Learning (cap. 8.5) · Verificato il 2026-08-03