Sycophancy (AI)
Verificato
Significato di «Sycophancy (AI)»
Tendenza di un modello a compiacere l'utente assecondandone opinioni o aspettative anziché fornire risposte accurate. Emerge spesso dall'addestramento sulle preferenze umane e rappresenta un problema di affidabilità, perché premia risposte gradite più che corrette.
Fonti: Sycophancy nei modelli linguistici legata al RLHF. Perez et al., Discovering Language Model Behaviors (Anthropic, 2022); Sharma et al., Towards Understanding Sycophancy in Language Models (2023). verifica web 2026-08-03 · Verificato il 2026-08-03