Wie gut verstehst du KI wirklich?

Modelle sehen keine Wörter, sie sehen Tokens: Teilwort-Stücke von durchschnittlich etwa vier Zeichen im Englischen. Das ist wichtig, weil pro Token abgerechnet wird und weil Kontextgrenzen in Tokens zählen, nicht in Seiten.

Gefährlich ist nicht der Fehler, sondern die Überzeugung. Ein Modell hat kein internes Signal für „Ich weiß es nicht“, deshalb liest sich eine erfundene Quellenangabe genau wie eine echte. Darum zählen Quellen-Gewohnheiten mehr als die Wahl des Modells.

Alles konkurriert um dasselbe Fenster: deine Anweisungen, das eingefügte Dokument, der bisherige Gesprächsverlauf und die Antwort. Wenn ein langer Chat den Anfang zu „vergessen“ beginnt, füllt sich gerade das Fenster — das Modell verliert nicht das Interesse.

RAG ist Suche plus ein größerer Prompt — am Modell ändert sich nichts. Genau das ist der Reiz: Deine Dokumente bleiben deine, das Aktualisieren wirkt sofort, und das Modell kann zitieren, was es bekommen hat.

Ein konkretes Beispiel schlägt jede Menge Adjektive. „Sei genau“ gibt dem Modell nichts, woran es sich halten kann; eine Kostprobe von Format, Länge und Ton, die du willst, gibt ihm ein Ziel zum Treffen.

Das eingebaute Wissen ist am Stichtag eingefroren. Die meisten Tools überdecken das mit Live-Websuche — deshalb kann dieselbe Frage im einen Produkt eine aktuelle und im anderen eine veraltete Antwort bekommen, obwohl dasselbe Modell dahintersteckt.

Als Faustregel: Je präziser und überprüfbarer eine Aussage ist, desto überzeugender wirkt eine Erfindung und desto mehr Schaden richtet sie an. Entwürfe und Brainstormings scheitern harmlos; ein erfundenes Aktenzeichen nicht.

Fine-Tuning bringt Verhalten und Stil bei, keine Fakten. Teams greifen dazu und merken dann, dass ihr eigentliches Problem Wissen war — und das löst RAG besser, schneller und günstiger.

Eine niedrige Temperature lässt das Modell den wahrscheinlichsten nächsten Token wählen, das Ergebnis ist also gleichförmig und repetitiv. Eine hohe Temperature lockert das. Wahrer wird dadurch nichts — eine selbstbewusst vorgetragene Falschaussage bleibt auch bei Temperature 0 eine Falschaussage.

Kostenlose und Consumer-Tarife behalten sich oft das Recht vor, deine Eingaben zu speichern und damit zu trainieren, und „löschen“ heißt selten, dass etwas aus ihren Systemen verschwindet. Behandle alles, was du in einen öffentlichen Chatbot einfügst, als potenziell öffentlich — nutze für Sensibles einen Enterprise-Tarif mit Datenkontrollen oder ein privates Deployment.