Tagged: AI Security
Sicurezza dei sistemi AI: adversarial examples, data/model poisoning, prompt injection.
Termini
Adversarial Examples
Input creati appositamente per ingannare modelli di machine learning inducendoli a classificazioni errate senza apparenti modifiche percepi…
Data Poisoning
Compromissione intenzionale dei dataset di addestramento con dati alterati o falsi, generando modelli poco affidabili o manipolabili.
Model Extraction Attack
Tecnica con cui un attaccante tenta di replicare un modello di machine learning interrogandolo ripetutamente per ricostruirne struttura e p…
Model Poisoning
Attacco contro sistemi di machine learning che altera i dati o il modello durante l’addestramento, compromettendo l’accuratezza o inducendo…
Prompt Injection
Manipolazione intenzionale dell’input fornito a modelli linguistici o sistemi AI per indurli a eseguire azioni non previste o divulgare inf…