Robustness
Whether a system keeps performing when inputs are noisy, unusual, or deliberately adversarial.
Robustheit ist die Leistung außerhalb des aufgeräumten Testsets: Tippfehler, Randfälle, Distribution Shift, Angriffe. Ein Modell, das auf sauberen Daten genau ist und auf echten Daten zusammenbricht, ist in keinem Sinn genau, der zählt. Robustheit ist eine der Vertrauenswürdigkeits-Eigenschaften im NIST AI RMF und eine Anforderung an Hochrisikosysteme in der EU.
In der Praxis: Die Genauigkeit fällt von 94% auf 51%, wenn die Fotos bei schlechtem Licht aufgenommen wurden.