Prompt Caching
Reusing the processed form of a repeated prompt prefix so you do not pay full price for it again.
Wenn viele Anfragen denselben langen, stabilen Anfang teilen — einen System-Prompt, ein Dokument, eine Reihe von Beispielen —, kann der Anbieter dank Caching auf die erneute Berechnung verzichten. Die Ersparnis ist groß und fast geschenkt: Stell den stabilen Inhalt nach vorn und den variablen ans Ende.
In der Praxis: Ein Handbuch mit 20,000 Token, einmal gecacht und danach tausendfach günstig abgefragt.
Where this comes up
- ChatGPT 5.6: Release Date, Models, Pricing & Access
- Claude Fable 5 vs Opus 4.8: Benchmarks, Pricing & When to Switch
- Claude Fable 5: Price, API, Access, Safeguards & Use Cases
- Claude Opus 4.8 Release Date, Pricing, API & Claude Code
- Claude Opus 5 vs Sonnet 5: Benchmarks, Pricing & Which to Use (July 2026)
- Claude Opus 5: Benchmarks, Pricing, and Full Guide (July 2026)