Human-in-the-Loop
Also called: HITL
A design where a person reviews or approves before an AI action takes effect.
Human-in-the-Loop setzt einen Kontrollpunkt an den folgenreichen Schritt — Senden, Zahlen, Veröffentlichen, Entscheiden. Es ist die wichtigste praktische Kontrolle gegen Agenten-Risiken, und für Hochrisiko-Systeme nach dem EU AI Act ist eine Variante davon gesetzliche Pflicht statt netter Zusatz. Der Fehlermodus ist das Abnicken: Eine Prüfung, die niemand tatsächlich durchführt, ist keine Kontrolle.
In der Praxis: Der Agent bereitet die Rückerstattung vor; ein Mensch klickt auf Freigeben.