Robustness
Whether a system keeps performing when inputs are noisy, unusual, or deliberately adversarial.
La robustezza è la prestazione fuori dal test set ordinato: refusi, casi limite, spostamenti della distribuzione, attacchi. Un modello accurato sui dati puliti che crolla sui dati reali non è accurato in nessun senso che conti. È una delle caratteristiche di affidabilità del NIST AI RMF e un requisito per i sistemi ad alto rischio nell’UE.
In pratica: L’accuratezza scende dal 94% al 51% quando le foto in input sono scattate con poca luce.