162 Artikel
Guides durchstöbern
Generative KI lernt die Form ihrer Trainingsdaten gut genug, um daraus neue Beispiele zu ziehen. Der Output ist neu in dem Sinne, dass es ihn vorher nicht gab, und abgeleitet in dem Sinne, dass er aus Mustern in den Daten stammt. Diese Kategorie hat KI vom Back-Office-Werkzeug zu etwas gemacht, das alle direkt benutzen. In der Praxis: Ein Modell nach einem ersten Entwurf für eine Launch-Mail fragen und ihn in vier Sekunden bekommen. ...
Gewichte bestimmen, wie stark jede Eingabe in jeder Schicht zu jeder Ausgabe beiträgt. Sie starten zufällig und werden per Gradientenabstieg aktualisiert, bis sich der Loss nicht mehr verbessert. Wenn von ‘offenen Gewichten’ die Rede ist, heißt das: Die trainierten Zahlen sind herunterladbar — und genau das macht lokale und selbst gehostete Nutzung möglich. In der Praxis: Ein Open-Weights-Modell herunterzuladen heißt, eine Datei mit Milliarden Fließkommazahlen herunterzuladen.
GPUs erledigen die gewaltigen Matrixmultiplikationen hinter Training und Inferenz tausendfach schneller als eine CPU. Ihre Speicherkapazität setzt die Obergrenze für die Modellgröße, und genau deshalb ist Quantisierung wichtig. Angebot und Preis von GPUs prägen den gesamten Markt. In der Praxis: Ob ein Modell in 24 GB VRAM passt, entscheidet darüber, ob es auf deinem Schreibtisch läuft.
Der Gradientenabstieg berechnet, in welche Richtung sich jeder Parameter bewegen muss, um den Loss zu verringern, und macht dann einen kleinen Schritt dorthin. Millionenfach wiederholt, konvergiert das Modell. Fast jedes moderne Training nutzt eine Variante davon, meist Adam. In der Praxis: Wie bergab gehen im Nebel: Du siehst das Tal nicht, aber du spürst die Neigung unter deinen Füßen.
Guardrails sind die Schichten rund um das Modell: Eingabefilter, Ausgabeprüfungen, Eingrenzung erlaubter Themen, Tool-Berechtigungen, Rate Limits. Es gibt sie, weil Modellverhalten probabilistisch ist und eine Anweisung im Prompt keine Durchsetzung darstellt. Gute Guardrails leben in deinem Code, nicht nur im System-Prompt. In der Praxis: Ein Ausgabefilter, der die Antwort blockiert, wenn sie irgendetwas enthält, das nach einer Kartennummer aussieht.
Eine Halluzination ist Inhalt, den das Modell erzeugt, weil er statistisch plausibel ist, nicht weil er wahr ist. Das ist eine strukturelle Folge der Vorhersage des nächsten Tokens und kein Bug, den man patchen kann: Das Modell optimiert auf plausibel, und plausibel und wahr fallen meistens zusammen — bis sie es eben nicht mehr tun. Grounding, Retrieval und Verifikation verringern das Problem; beseitigen kann es nichts. In der Praxis: Erfundene Urteilszitate, erfundene DOIs, erfundene API-Endpunkte — alles Klassiker, alle souverän formatiert. ...
Hochrisiko umfasst KI, die als Sicherheitsbauteil eines regulierten Produkts dient, plus die Liste aus Anhang III: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, grundlegende Dienste, Strafverfolgung, Migration und Justiz. Hochrisiko ist nicht verboten, sondern reguliert. Zu den Pflichten zählen Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Robustheit sowie die Konformitätsbewertung. In der Praxis: Software, die Bewerber bewertet oder Prüfungen benotet, fällt unter Anhang III.
Human-in-the-Loop setzt einen Kontrollpunkt an den folgenreichen Schritt — Senden, Zahlen, Veröffentlichen, Entscheiden. Es ist die wichtigste praktische Kontrolle gegen Agenten-Risiken, und für Hochrisiko-Systeme nach dem EU AI Act ist eine Variante davon gesetzliche Pflicht statt netter Zusatz. Der Fehlermodus ist das Abnicken: Eine Prüfung, die niemand tatsächlich durchführt, ist keine Kontrolle. In der Praxis: Der Agent bereitet die Rückerstattung vor; ein Mensch klickt auf Freigeben.
Die hybride Suche führt lexikalisches und semantisches Retrieval gemeinsam aus und mischt die Rankings. Keywords treffen exakte Übereinstimmungen — Produktcodes, Namen, Fehlermeldungen —, während Vektoren mit Umschreibungen umgehen. In produktivem RAG schlägt diese Kombination verlässlich jede der beiden allein. In der Praxis: ‘Fehler E-4471 Rückerstattung’ braucht den exakten Code und das Konzept von Rückerstattungen.
Lernrate, Batch-Größe, Anzahl der Schichten, Dropout-Rate — das sind Hyperparameter. Sie werden von der Entwicklung gewählt und gegen Validierungsdaten justiert. Die Abgrenzung zu Parametern ist simpel: Hyperparameter setzt du, Parameter setzt das Training. In der Praxis: Denselben Job 20-mal mit unterschiedlichen Lernraten laufen lassen, um die zu finden, die am besten konvergiert.