Adversarial Example
An input perturbed just enough to fool a model, while looking unchanged to a person.
Los ejemplos adversarios aprovechan que las fronteras de decisión de un modelo no coinciden con la percepción humana. Cambios mínimos y dirigidos invierten la salida con alta confianza. Son un recordatorio de que una alta exactitud en los benchmarks no dice nada sobre el comportamiento bajo ataque.
En la práctica: Una señal de alto con unas cuantas calcomanías que un modelo de visión lee como una señal de límite de velocidad.