Data Poisoning
Corrupting training data so the resulting model misbehaves, often only on a specific trigger.
Poisoning greift das Modell an, bevor es existiert. Schon eine kleine Menge gezielt gebauter Daten kann eine Hintertür einbauen, die sich völlig normal verhält, außer bei einer vom Angreifer gewählten Eingabe. Es ist ein Lieferketten-Problem — deshalb ist Datenherkunft eine Sicherheitsmaßnahme und nicht bloß Dokumentation.
In der Praxis: Eingeschleuste Beispiele, die einen Filter alles durchwinken lassen, was eine bestimmte Phrase enthält.