162 Artikel
Guides durchstöbern
Ein Label ist das Ziel, das ein überwachtes Modell reproduzieren soll — die Kategorie, die Zahl, die korrekte Ausgabe. Die Qualität der Labels deckelt die Qualität des Modells: Wenn Annotierende uneinig oder schlampig sind, repariert das keine noch so große Rechenleistung. In der Praxis: In einem Fotodatensatz ist ‘Katze’ das Label; die Pixel sind die Features.
Ein LLM ist ein Transformer, der im großen Maßstab auf Text trainiert wurde, mit einem täuschend einfachen Ziel: raten, was als Nächstes kommt. Macht man das über Billionen von Token gut genug, entstehen Fähigkeiten wie Zusammenfassen, Übersetzen und das Befolgen von Anweisungen, ohne dass sie explizit beigebracht wurden. Das Post-Training formt aus dem Rohmodell dann etwas, das Anweisungen sicher befolgt. In der Praxis: GPT-5.6, Claude, Gemini und Llama sind alle LLMs und unterscheiden sich in Training, Größe und Tuning. ...
Bei LLMs zerfällt Latenz in die Zeit bis zum ersten Token, die das gefühlte Tempo bestimmt, und in die gesamte Generierungszeit. Streaming greift das Erste an; kleinere Modelle und kürzere Ausgaben greifen das Zweite an. Reasoning-Modelle tauschen absichtlich Latenz gegen Genauigkeit. In der Praxis: 400 ms bis zum ersten Wort fühlen sich sofort an; vier Sekunden leerer Bildschirm fühlen sich tot an.
Ist die Lernrate zu hoch, schießt das Training über das Ziel hinaus und divergiert; ist sie zu niedrig, kriecht es oder bleibt stecken. Die meisten echten Läufe planen sie über einen Schedule, starten größer und lassen sie mit der Zeit abklingen. Sie ist das klassische Beispiel für einen Hyperparameter: von dir gesetzt, nicht vom Modell gelernt. In der Praxis: Gleiche Daten, gleiche Architektur, Lernrate 10× zu hoch — der Loss geht ins Unendliche. ...
LLMOps verschiebt die Themen, weil du das Modell in der Regel gar nicht selbst trainierst. Versioniert, getestet und überwacht werden stattdessen Prompts, Retrieval, Tool-Definitionen, Evals, Latenz, Kosten und die Sicherheit der Ausgaben. Die Kerndisziplin bleibt dieselbe: Nichts geht live ohne einen Test, der sein Scheitern bemerken würde. In der Praxis: Jede Prompt-Änderung durchläuft in der CI die Eval-Suite, bevor sie in die Produktion kommt.
LoRA friert die Basisgewichte ein und lernt daneben eine kleine Zahl zusätzlicher Parameter. Heraus kommt eine leichtgewichtige Adapter-Datei — Megabyte statt Gigabyte —, die sich pro Aufgabe austauschen und auf bescheidener Hardware trainieren lässt. Deshalb ist Fine-Tuning kein exklusives Privileg großer Labore mehr. In der Praxis: Ein Basismodell plus fünf LoRA-Adapter, die fünf Markenstimmen bedienen.
Beim maschinellen Lernen zeigst du einem System viele Beispiele, und es erarbeitet sich die Regel selbst, indem es interne Zahlen so lange anpasst, bis seine Ausgaben zu den Beispielen passen. Formal ist ML ein Teilgebiet der KI, auch wenn die Begriffe in der Praxis lose verwendet werden. Der entscheidende Wechsel: Die Entwicklung liefert Daten und ein Ziel statt Logik. In der Praxis: Statt jedes Wort aufzulisten, das auf Betrug hindeutet, fütterst du ein Modell mit 100.000 gelabelten Transaktionen und lässt es die Signale finden. ...
Artikel 14 verlangt, dass Hochrisiko-Systeme so gestaltet sind, dass natürliche Personen sie wirksam beaufsichtigen können — inklusive Verständnis für Fähigkeiten und Grenzen, Wachsamkeit gegenüber Automatisierungsbias, Deutung der Ausgaben, der Entscheidung, das System nicht zu nutzen, und dem Eingreifen oder Anhalten des Betriebs. Aufsicht muss in das System hineinkonstruiert und nicht in einer Richtlinie behauptet werden. In der Praxis: Ein sichtbarer Stopp-Schalter und eine prüfende Person, die befugt und geschult ist, ihn zu benutzen. ...
Meta-Prompting gibt die Aufgabe des Prompt-Schreibens an das Modell selbst ab: Lass es einen Prompt entwerfen und anschließend die Mehrdeutigkeiten darin finden. Das funktioniert, weil Modelle oft besser darin sind, Unterspezifikation zu erkennen, als Menschen darin, sie zu vermeiden. Kombiniere es mit echter Evaluation, sonst erzeugst du nur überzeugend klingende Prompts. In der Praxis: ‘Hier ist mein Prompt und drei schlechte Ausgaben. Was ist daran mehrdeutig?’
Ein Mixture-of-Experts-Modell enthält viele spezialisierte Teilnetze und einen Router, der pro Token einige davon auswählt. Die Gesamtzahl der Parameter bleibt riesig, während die Rechenlast pro Token bescheiden bleibt, und das entkoppelt Kapazität von den Inferenzkosten. Deshalb lassen sich manche sehr großen Modelle überraschend günstig betreiben. In der Praxis: Ein Modell mit 400B Parametern, das pro Token nur die Rechenlast von 40B ausführt.