Agenten-Orchestrierung: Workflows, Agenten und alles dazwischen
Wer einen KI-Agenten baut, entscheidet früher oder später, wer den Ablauf bestimmt: der Code oder das Sprachmodell. Zwischen einer starren Abfolge von Prompts und einem Agenten, der frei Werkzeuge wählt, liegt eine ganze Reihe von Steuermustern. Dieser Überblick ordnet sie nach Autonomiestufe, erklärt die Bausteine und gibt eine Auswahlhilfe für typische Unternehmensprozesse wie Angebotserstellung, Ticketbearbeitung oder Prüfberichte.
Was ist Agenten-Orchestrierung und wofür wird sie eingesetzt?
Agenten-Orchestrierung ist die Steuerlogik, die festlegt, in welcher Reihenfolge Sprachmodell-Aufrufe, Werkzeuge, Prüfungen und menschliche Freigaben ablaufen. Sie entscheidet, ob ein Prozess vorhersagbar wie ein Formular abläuft oder ob das Modell selbst plant. Im Unternehmen ist sie der Teil, der aus einem Chat-Prototyp einen belastbaren Prozess macht.
Anthropic unterscheidet in seinem Leitfaden Building effective agents zwei Grundformen: Workflows, in denen Sprachmodelle und Werkzeuge über vorab festgelegte Codepfade orchestriert werden, und Agenten, in denen das Sprachmodell seinen Ablauf und seine Werkzeugnutzung selbst steuert. Beide Begriffe werden im Alltag oft vermischt. Für die Architektur ist die Trennung aber entscheidend, weil sie bestimmt, wie Sie testen, überwachen und haften.
Eingesetzt wird Orchestrierung überall dort, wo mehr als ein einzelner Modellaufruf nötig ist:
- Dokumentenprozesse: Eine Anfrage-E-Mail lesen, Positionen extrahieren, gegen den Artikelstamm prüfen, ein Angebot entwerfen.
- Service-Prozesse: Ein Ticket klassifizieren, passende Handbuchstellen suchen, eine Antwort vorschlagen, bei Unsicherheit an einen Menschen geben.
- Recherche- und Analyseaufgaben: Mehrere Quellen durchsuchen, Ergebnisse zusammenführen, einen Bericht schreiben.
- Langläufer: Prozesse, die auf eine Freigabe, eine Lieferantenantwort oder einen Wareneingang warten.
Welche Autonomiestufen gibt es?
Die Steuermuster lassen sich auf einer Skala ordnen: Am einen Ende bestimmt der Code jeden Schritt, am anderen Ende entscheidet das Modell in einer Schleife, was als Nächstes passiert. Je weiter Sie nach rechts gehen, desto flexibler wird das System, desto schwerer wird es aber auch, Kosten, Laufzeit und Fehler vorherzusagen.
| Stufe | Wer bestimmt den nächsten Schritt? | Typisches Muster |
|---|---|---|
| 1 Feste Kette | der Code, immer gleich | Prompt-Kette |
| 2 Verzweigter Workflow | der Code, abhängig von einer Klassifikation | Routing, Parallelisierung |
| 3 Geplanter Ablauf | das Modell plant einmal, der Code führt aus | Planner-Executor, Orchestrator-Worker |
| 4 Freie Schleife | das Modell nach jedem Schritt neu | ReAct-Agent |
Dazu kommen zwei Querschnittsthemen, die auf jeder Stufe auftreten: Ereignissteuerung (was startet und weckt den Ablauf?) und Langläufer (wie überlebt der Zustand Stunden oder Tage?). Beide behandeln wir weiter unten eigens, weil sie in Unternehmensprozessen häufiger den Ausschlag geben als die Wahl zwischen Kette und Schleife.
Wie funktionieren die Steuermuster im Einzelnen?
Jedes Muster beantwortet die Frage „Was passiert nach diesem Schritt?" anders. Kette und Routing legen die Antwort im Code fest, Planner-Executor lässt das Modell einmal vorab planen, ReAct entscheidet nach jedem Schritt neu. Die folgenden Abschnitte beschreiben Aufbau, Stärken und typische Einsatzfälle.
Kette (Prompt Chaining)
Eine Aufgabe wird in feste Teilschritte zerlegt, jeder Schritt verarbeitet die Ausgabe des vorherigen. Zwischen den Schritten können programmatische Prüfungen stehen, etwa „Enthält die Extraktion eine Kundennummer?". Anthropic empfiehlt dieses Muster, wenn sich eine Aufgabe sauber in feste Teilaufgaben zerlegen lässt, und beschreibt den Tausch als etwas mehr Laufzeit gegen höhere Genauigkeit je Schritt.
Beispiel: Lieferschein als PDF einlesen, Positionen als JSON extrahieren, gegen die Bestellung abgleichen, Abweichungen als Text formulieren. Jeder Schritt hat ein klares Eingabe- und Ausgabeformat und lässt sich einzeln testen.
Routing
Ein erster Schritt klassifiziert die Eingabe und leitet sie an einen spezialisierten Folgeprozess weiter. Die Klassifikation kann ein Sprachmodell übernehmen oder ein klassisches Klassifikationsverfahren. Laut Anthropic lohnt sich Routing, wenn es klar unterscheidbare Kategorien gibt, die getrennt besser bearbeitet werden, und die Klassifikation zuverlässig ist. Ein dort genanntes Beispiel: einfache Anfragen an kleinere, günstigere Modelle schicken.
Im Service heißt das etwa: Reklamation, Ersatzteilanfrage und Rechnungsfrage landen jeweils in einer eigenen Kette mit eigenem Prompt, eigenen Werkzeugen und eigenen Freigaberegeln.
Parallelisierung
Mehrere Modellaufrufe laufen gleichzeitig. Anthropic unterscheidet zwei Varianten: Beim Aufteilen (Sectioning) bearbeiten parallele Aufrufe unabhängige Teilaufgaben, etwa ein Aufruf beantwortet die Anfrage, ein zweiter prüft sie auf unzulässige Inhalte. Beim Abstimmen (Voting) läuft dieselbe Aufgabe mehrfach, und die Ergebnisse werden verglichen, etwa mehrere Prüfdurchläufe über denselben Code.
Planner-Executor und Orchestrator-Worker
Hier plant das Modell. Beim Planner-Executor erstellt ein Aufruf zuerst einen Plan aus Teilaufgaben, danach werden die Teilaufgaben abgearbeitet. Die Idee ist in der Forschung unter anderem als Plan-and-Solve Prompting (Wang et al., ACL 2023) beschrieben: erst einen Plan entwerfen, der die Aufgabe in Teilaufgaben zerlegt, dann die Teilaufgaben ausführen.
Das Orchestrator-Worker-Muster aus dem Anthropic-Leitfaden geht einen Schritt weiter: Ein zentrales Modell zerlegt die Aufgabe dynamisch, verteilt Teilaufgaben an Worker und führt die Ergebnisse zusammen. Anders als bei der Parallelisierung stehen die Teilaufgaben nicht vorab fest, sondern ergeben sich aus der konkreten Eingabe. Wann sich daraus ein echtes Mehr-Agenten-System mit eigenständigen Rollen entwickelt und was das kostet, beschreibt der Überblick zu Multi-Agenten-Systemen.
Evaluator-Optimizer
Ein Aufruf erzeugt ein Ergebnis, ein zweiter bewertet es und gibt Rückmeldung, bis das Ergebnis die Kriterien erfüllt oder ein Rundenlimit erreicht ist. Laut Anthropic passt das Muster, wenn es klare Bewertungskriterien gibt und Überarbeitung nachweislich hilft. Im Unternehmen sind das etwa Texte, die gegen eine Checkliste geprüft werden.
Freie Schleife (ReAct)
Der klassische Agent: Das Modell denkt über den nächsten Schritt nach, ruft ein Werkzeug auf, liest das Ergebnis und entscheidet erneut. Das Muster geht auf das Paper ReAct: Synergizing Reasoning and Acting in Language Models von Yao et al. (2022) zurück, das Sprachmodelle abwechselnd Denkschritte und Aktionen erzeugen lässt. Die Zahl der Schritte steht vorab nicht fest; Sie begrenzen sie nur über Abbruchbedingungen und Budgets.
Wann passt welches Muster?
Wählen Sie die niedrigste Autonomiestufe, die die Aufgabe zuverlässig löst. Anthropic formuliert das als Grundsatz: die einfachste mögliche Lösung suchen und Komplexität nur hinzufügen, wenn sie die Ergebnisse nachweislich verbessert. Eine freie Schleife ist nur gerechtfertigt, wenn sich die Schrittfolge nicht vorab festlegen lässt.
Eine praktische Auswahlhilfe in Fragen:
- Ist die Schrittfolge für alle Fälle gleich? Dann Kette.
- Gibt es wenige, klar unterscheidbare Fallgruppen? Dann Routing vor mehreren Ketten.
- Sind Teilaufgaben unabhängig voneinander? Dann Parallelisierung innerhalb der Kette.
- Hängen die Teilaufgaben von der Eingabe ab, sind aber nach einer Planung stabil? Dann Planner-Executor oder Orchestrator-Worker.
- Ergibt sich jeder nächste Schritt erst aus dem Ergebnis des vorherigen? Dann eine ReAct-Schleife — mit Schrittlimit, Werkzeugrechten und Freigaben.
In der Praxis landen die meisten Unternehmensprozesse bei einer Mischform: ein festes Gerüst aus Routing und Kette, in dem einzelne Schritte als begrenzte Agenten-Schleife laufen. Bei einer Angebotserstellung ist der Rahmen fest (Anfrage lesen, Angebot erzeugen, Freigabe, Versand). Nur die Suche nach passenden Artikeln und früheren Angeboten ist offen genug, um sie einem Agenten mit Suchwerkzeugen zu überlassen. Wie solche Prozesse für Angebotserstellung oder den technischen Service konkret aussehen, zeigen die jeweiligen Seiten.
Ein Warnsignal ist, wenn ein Team eine freie Schleife wählt, „weil Agenten flexibler sind", aber den Prozess eigentlich in fünf Sätzen beschreiben kann. Dann ist er ein Workflow.
Was bedeuten Ereignissteuerung und Langläufer?
Viele Unternehmensprozesse werden nicht durch einen Chat gestartet, sondern durch Ereignisse: eine eingehende E-Mail, eine neue Zeile im ERP, ein Zeitplan. Und viele enden nicht nach Sekunden, sondern warten auf Menschen oder externe Systeme. Diese beiden Eigenschaften verändern die Architektur stärker als die Wahl des Steuermusters.
Ereignisgesteuerte Abläufe
Ein ereignisgesteuerter Agent wird durch einen Auslöser gestartet oder fortgesetzt: Webhook, Nachricht in einer Warteschlange, Dateieingang, Zeitplan. Wichtig sind dabei drei Dinge:
- Idempotenz: Kommt dasselbe Ereignis zweimal, darf nicht zweimal ein Angebot verschickt werden. Jeder Lauf braucht eine eindeutige Kennung.
- Klarer Eingangsvertrag: Was genau enthält das Ereignis? Je strukturierter der Auslöser, desto weniger muss das Modell raten.
- Rückkanal: Wohin gehen Ergebnis und Fehler? Ein Agent, der im Hintergrund läuft, braucht Protokollierung und Alarmierung.
Langläufer
Ein Langläufer ist ein Ablauf, der über Stunden, Tage oder Wochen besteht, etwa ein Angebotsprozess, der auf die Freigabe des Vertriebsleiters wartet. Dafür muss der Zustand außerhalb des laufenden Prozesses gespeichert sein. Ein einfacher Agent im Arbeitsspeicher verliert alles, sobald der Server neu startet.
Zwei verbreitete Ansätze:
- Agenten-Frameworks mit Persistenz: LangGraph speichert den Zustand eines Ablaufs als Checkpoints je Thread. Die Dokumentation weist darauf hin, dass der In-Memory-Checkpointer bei einem Neustart alle Checkpoints verliert, und empfiehlt für den Produktivbetrieb einen dauerhaften Speicher wie
PostgresSaver. Mit der Funktioninterrupt()pausiert ein Knoten und wartet, bis der Ablauf mitCommand(resume=...)und derselben Thread-ID fortgesetzt wird; die Interrupt-Dokumentation betont, dass der Knoten dabei von vorne startet, Code vor deminterrupt()also erneut läuft. - Allgemeine Workflow-Engines: Temporal beschreibt seine Workflows als widerstandsfähig; sie können laut Dokumentation über Jahre laufen, auch wenn die Infrastruktur ausfällt. Nach einem Absturz stellt Temporal den Zustand wieder her, indem es die gespeicherte Ereignishistorie erneut abspielt. Modellaufrufe lassen sich dann als einzelne Aktivitäten innerhalb des Workflows kapseln.
Für Freigaben in Langläufern gilt dasselbe wie für jeden Human-in-the-Loop-Schritt: Wer darf freigeben, was sieht er, und was passiert ohne Antwort? Das vertieft der Artikel Human-in-the-Loop: Freigaben und Kontrolle in KI-Agenten.
Welche Voraussetzungen braucht eine saubere Orchestrierung?
Bevor Sie ein Muster wählen, brauchen Sie einen beschriebenen Prozess, saubere Schnittstellen zu den beteiligten Systemen und eine Möglichkeit, Ergebnisse zu prüfen. Fehlt eines davon, wird jede Autonomiestufe unzuverlässig — die freie Schleife allerdings am deutlichsten, weil sie Lücken durch Raten überbrückt.
Prozess: Schreiben Sie den Ablauf so auf, wie ihn ein erfahrener Mitarbeiter erledigt, inklusive Ausnahmen. Aus dieser Beschreibung ergibt sich oft schon, welche Teile fest und welche offen sind.
Systeme und Werkzeuge: Jedes Werkzeug, das der Agent nutzt, braucht eine klare Beschreibung, eindeutige Parameter und verständliche Fehlermeldungen. Anthropic nennt die sorgfältige Gestaltung dieser Schnittstelle zwischen Agent und Computer ausdrücklich als einen von drei Grundsätzen. Standardisierte Anbindungen wie das Model Context Protocol (MCP) erleichtern das.
Daten: Wenn ein Schritt auf Unternehmenswissen zugreift, muss dieses Wissen auffindbar und aktuell sein. Eine Kette mit schlechter Wissensbasis liefert verlässlich schlechte Ergebnisse.
Prüfbarkeit: Sie brauchen Testfälle mit erwarteten Ergebnissen, bevor Sie zwischen Mustern wählen. Nur so sehen Sie, ob eine höhere Autonomiestufe tatsächlich etwas bringt. Solche Testsammlungen (Evals) sind die Messlatte für jede spätere Änderung am Ablauf.
Organisation: Klären Sie, wer einen Ablauf verantwortet, wer Freigaben erteilt und wer bei Fehlern informiert wird.
Wie gehen Sie in Schritten vor?
Der bewährte Weg beginnt mit dem einfachsten Muster und erhöht die Autonomie nur dort, wo Messungen es rechtfertigen. So bleibt das System nachvollziehbar, und jede zusätzliche Freiheit des Modells ist begründet. Die folgenden Schritte gelten unabhängig davon, ob Sie ein Framework nutzen oder direkt gegen die Modell-API programmieren.
- Prozess zerlegen: Schritte, Entscheidungen, Ausnahmen, beteiligte Systeme und Freigaben aufschreiben.
- Feste Teile festlegen: Alles, was immer gleich abläuft, wird Code oder Kette.
- Offene Teile markieren: Nur Schritte, deren Ablauf von der Eingabe abhängt, sind Kandidaten für Planung oder Schleife.
- Werkzeuge bauen und beschreiben: Lesende Werkzeuge zuerst, schreibende Werkzeuge erst mit Freigabe.
- Testfälle sammeln: Echte, anonymisierte Fälle mit dem Ergebnis, das ein Mensch erwarten würde.
- Einfachste Variante bauen und messen: Erst Kette oder Routing, dann prüfen, wo sie scheitert.
- Gezielt Autonomie hinzufügen: Nur an den Stellen, an denen die einfache Variante nachweislich versagt, eine begrenzte Schleife einsetzen.
- Betrieb absichern: Schrittlimits, Kostenbudgets, Protokollierung jedes Werkzeugaufrufs, Alarmierung bei Abbrüchen.
Zur Framework-Frage rät Anthropic, zunächst direkt mit der Modell-API zu beginnen, weil viele Muster nur wenige Zeilen Code brauchen. Frameworks können Prompts und Antworten hinter Abstraktionen verbergen und so die Fehlersuche erschweren. Wenn Sie eines einsetzen, sollten Sie den Code darunter verstehen. Sinnvoll sind Frameworks vor allem dort, wo Sie Persistenz, Unterbrechungen und Nachverfolgung sonst selbst bauen müssten.
Wo liegen Grenzen und Risiken?
Jede Stufe hat eigene Schwächen. Feste Workflows brechen bei Fällen, die niemand vorhergesehen hat. Freie Schleifen dagegen können in Endlosschleifen laufen, teure Umwege nehmen und Fehler über viele Schritte aufschaukeln. Anthropic weist ausdrücklich auf höhere Kosten und das Risiko sich verstärkender Fehler bei autonomen Agenten hin.
Die häufigsten Probleme in der Praxis:
- Zu viel Autonomie zu früh: Ein Agent soll „den Prozess erledigen", obwohl niemand den Prozess beschrieben hat. Ergebnis: schwer reproduzierbares Verhalten.
- Fehlende Abbruchbedingungen: Schleifen ohne Schritt- und Kostenlimit laufen im schlechtesten Fall, bis jemand die Rechnung sieht.
- Verdeckter Zustand: Der Ablauf hängt am Gesprächsverlauf im Arbeitsspeicher; ein Neustart und alles ist weg.
- Doppelte Ausführung: Ein erneut zugestelltes Ereignis oder ein wieder gestarteter Knoten führt eine schreibende Aktion zweimal aus.
- Schreibende Werkzeuge ohne Freigabe: E-Mails, Buchungen oder Bestellungen sollten in den ersten Ausbaustufen immer durch einen Menschen bestätigt werden.
- Framework-Bindung: Je mehr Logik in einem speziellen Framework steckt, desto teurer wird ein späterer Wechsel.
Wann der Ansatz insgesamt nicht passt: Wenn ein Prozess vollständig regelbasiert ist und keine unstrukturierten Eingaben enthält, ist klassische Automatisierung ohne Sprachmodell meist einfacher, günstiger und genauer.
Wie fangen Sie an?
Beginnen Sie mit einem einzelnen, gut beschriebenen Prozess, bauen Sie ihn als feste Kette mit Routing und Freigabe und messen Sie an echten Fällen, wo er scheitert. Erst dort setzen Sie gezielt Planung oder eine begrenzte Agenten-Schleife ein. So wächst die Autonomie mit dem Vertrauen in das System.
Ein guter erster Kandidat hat drei Eigenschaften: unstrukturierte Eingaben (E-Mails, PDFs), ein klar prüfbares Ergebnis (Angebotsentwurf, Ticketantwort) und einen Menschen, der ohnehin freigibt. In unserem eigenen Betrieb hat sich bewährt, den Ablauf zuerst als einfache Kette mit einem Freigabeschritt zu bauen und offene Rechercheschritte erst nachträglich als begrenzte Schleife einzuziehen.
Weiterführend: Wann mehrere spezialisierte Agenten zusammenarbeiten sollten, steht im Überblick zu Multi-Agenten-Systemen; wie Freigaben gestaltet werden, im Artikel zu Human-in-the-Loop. Konkrete Einsatzfelder für KI-Agenten im Unternehmen zeigt die Übersicht der Fachagenten.
Stand: November 2026. Die Mustereinteilung folgt dem Anthropic-Leitfaden vom Dezember 2024; Framework-Funktionen beziehen sich auf die zum Prüfdatum veröffentlichte Dokumentation von LangGraph und Temporal.
Häufige Fragen
Ist ein autonomer Agent immer moderner als ein fester Workflow?
Nein. Ein fester Workflow ist für planbare Prozesse meist vorhersagbarer, günstiger und leichter zu prüfen. Autonomie lohnt sich erst, wenn die Schrittfolge wirklich nicht vorab feststeht.
Brauche ich für Orchestrierung ein Framework?
Nicht zwingend. Ketten, Routing und einfache Schleifen sind mit wenigen Zeilen Code direkt über die Modell-API gebaut. Frameworks lohnen sich vor allem für gespeicherten Zustand, Unterbrechungen und lange Laufzeiten.
Was unterscheidet einen Langläufer von einem normalen Agenten-Aufruf?
Ein Langläufer wartet über Stunden oder Tage auf Ereignisse wie eine Freigabe oder eine Lieferantenantwort. Dafür muss sein Zustand dauerhaft gespeichert sein, damit er nach einem Neustart an derselben Stelle weiterläuft.
Kann ich später von einem Workflow auf einen Agenten umsteigen?
Ja, und das ist der übliche Weg. Man ersetzt einzelne feste Schritte durch eine begrenzte Agenten-Schleife, sobald Auswertungen zeigen, dass der starre Ablauf an dieser Stelle zu oft scheitert.
Quellen
- Anthropic: Building effective agents (Dezember 2024) anthropic.com
- Yao et al.: ReAct: Synergizing Reasoning and Acting in Language Models (arXiv 2210.03629) arxiv.org
- Wang et al.: Plan-and-Solve Prompting (arXiv 2305.04091, ACL 2023) arxiv.org
- LangGraph-Dokumentation: Interrupts docs.langchain.com
- LangGraph-Dokumentation: Persistenz und Checkpointer docs.langchain.com
- Temporal-Dokumentation: Workflows docs.temporal.io