Robustness
Whether a system keeps performing when inputs are noisy, unusual, or deliberately adversarial.
La robustesse, c’est la performance en dehors du jeu de test bien propre : fautes de frappe, cas limites, dérive de distribution, attaque. Un modèle précis sur des données propres et qui s’effondre sur des données réelles n’est précis dans aucun sens qui compte. C’est l’une des caractéristiques de confiance du NIST AI RMF et une exigence pour les systèmes à haut risque dans l’UE.
En pratique : La précision passe de 94 % à 51 % quand les photos d’entrée sont prises dans une lumière insuffisante.