AI Agents & Automation intermediate

Orchestration

The layer that decides which model, tool, or agent handles each step, and in what order.

Orchestrierung ist die Routing- und Steuerungslogik rund um die Modelle: Retries, Fallbacks, Eskalation nach dem Prinzip erst das günstige Modell, parallele Schritte, Zustand. In der Produktion entscheidet meist diese Schicht und nicht das Modell darüber, ob das System zuverlässig und bezahlbar ist.

In der Praxis: Einfache Tickets an ein kleines Modell routen, mehrdeutige an ein Reasoning-Modell eskalieren.

Where this comes up