AI Glossary

NIST AI Risk Management Framework

Im Januar 2023 von NIST veröffentlicht, ist das AI RMF eine Leitlinie und kein Gesetz, und es gilt branchenunabhängig. Seine vier Funktionen geben Teams eine Struktur, um den Kontext zu erfassen, Risiken zu messen und darauf zu reagieren. Es ist zur faktischen Referenz für KI-Governance-Programme geworden, auch in Unternehmen ohne US-Pflichten, weil es praktisch und kostenlos ist. In der Praxis: Govern-Map-Measure-Manage als Gerüst für eine interne KI-Richtlinie nutzen.

On-Device-KI

Inferenz auf dem Gerät hält Daten lokal, funktioniert offline und verursacht keine Kosten pro Token — für Datenschutz und regulierte Kontexte wirklich attraktiv. Der Preis dafür ist Leistungsfähigkeit: Lokale Modelle sind kleiner und langsamer als Frontier-APIs. Erst Quantisierung und Distillation machen die Sache überhaupt tragfähig. In der Praxis: Ein vertrauliches Meeting transkribieren, ohne dass das Audio den Laptop verlässt.

One-Shot-Prompting

Ein einziges Beispiel reicht oft aus, um das Format festzuzurren, wenn die Aufgabe selbst verstanden ist, die Form der Ausgabe aber nicht. Es ist der billigste Weg, ein Modell davon abzuhalten, JSON in Prosa einzuwickeln. In der Praxis: Zeig ein Eingabe-Ausgabe-Paar und übergib dann die echte Eingabe.

Open-Weights-Modell

Open Weights heißt, dass die Parameter veröffentlicht sind, du also selbst hosten, fine-tunen und hineinschauen kannst. Das ist nicht dasselbe wie Open Source: Trainingsdaten und Code werden meist zurückgehalten, und Lizenzen schränken kommerzielle Nutzung oder Skalierung oft ein. Lies die Lizenz, bevor du von Freiheit ausgehst. In der Praxis: Gewichte herunterladen, um ein Modell vollständig im eigenen Netzwerk zu betreiben.

Orchestrierung

Orchestrierung ist die Routing- und Steuerungslogik rund um die Modelle: Retries, Fallbacks, Eskalation nach dem Prinzip erst das günstige Modell, parallele Schritte, Zustand. In der Produktion entscheidet meist diese Schicht und nicht das Modell darüber, ob das System zuverlässig und bezahlbar ist. In der Praxis: Einfache Tickets an ein kleines Modell routen, mehrdeutige an ein Reasoning-Modell eskalieren.

Overfitting

Ein overfittetes Modell hat das Rauschen mitgelernt, nicht nur das Signal. Auf Daten, die es gesehen hat, glänzt es; auf Daten, die es nicht gesehen hat, fällt es durch. Die üblichen Gegenmittel sind mehr Daten, weniger Modellkapazität, Regularisierung und ein früher Abbruch des Trainings, sobald der Validierungs-Loss wieder steigt. In der Praxis: 99 % auf den Trainingsdaten, 62 % in der Produktion — ein Lehrbuchfall.

Parameter

Parameter sind die lernbaren Werte im Inneren eines Modells — überwiegend Gewichte und Biases. Training ist der Vorgang, sie so lange zu verschieben, bis die Ausgaben des Modells aufhören, falsch zu sein. Schlagzeilenzahlen wie ‘70B Parameter’ beschreiben Kapazität, nicht Qualität: Architektur, Daten und Post-Training zählen oft mehr als die reine Größe. In der Praxis: Ein 70B-Modell hat rund 70 Milliarden justierbare Zahlen; eine größere Zahl bedeutet nicht automatisch bessere Antworten. ...

Precision und Recall

Precision fragt: Wie viel von allem, was das Modell markiert hat, war richtig? Recall fragt: Wie viel von allem, was es hätte markieren müssen, hat es erwischt? Beide gehen gegeneinander, und welche du optimierst, ist eine Produktentscheidung, keine technische. Accuracy verdeckt beide. In der Praxis: Ein Betrugsmodell, das 60 % der Betrugsfälle erwischt (Recall) und bei dem 90 % der Alarme echt sind (Precision), kann besser sein als eines mit 99,9 % Accuracy, das nichts erwischt. ...

Prompt

Ein Prompt ist alles, was das Modell für eine Anfrage sieht, nicht nur dein letzter Satz. Er bündelt typischerweise einen System-Prompt, den Gesprächsverlauf, angehängte Dokumente und deine eigentliche Frage. Zu verstehen, dass dieses ganze Bündel die Eingabe ist, ist der erste Schritt, um die Ausgabe zu steuern. In der Praxis: ‘Schreib das in 80 Wörtern für eine nicht-technische Leserschaft um’ ist ein Prompt; ‘kürzer’ ist ein Wunsch.

Prompt Caching

Wenn viele Anfragen denselben langen, stabilen Anfang teilen — einen System-Prompt, ein Dokument, eine Reihe von Beispielen —, kann der Anbieter dank Caching auf die erneute Berechnung verzichten. Die Ersparnis ist groß und fast geschenkt: Stell den stabilen Inhalt nach vorn und den variablen ans Ende. In der Praxis: Ein Handbuch mit 20,000 Token, einmal gecacht und danach tausendfach günstig abgefragt.