Mixture of Experts (MoE)

Architettura che attiva solo una parte del modello — gli “esperti” più adatti — per ogni input. Aumenta la capacità contenendo i costi.