Data Poisoning
Corrupting training data so the resulting model misbehaves, often only on a specific trigger.
Il poisoning attacca il modello prima che esista. Una piccola quantità di dati costruiti ad arte può installare una backdoor che si comporta normalmente tranne che su un input scelto dall’attaccante. È un problema di catena di fornitura, ed è per questo che la provenienza dei dati è un controllo di sicurezza e non solo documentazione.
In pratica: Esempi iniettati che spingono un filtro ad approvare qualsiasi cosa contenga una certa frase.