Human-in-the-Loop: Definition und Bedeutung für Unternehmen
Human-in-the-Loop (HITL) bezeichnet einen Ablauf, in dem ein KI-System an festgelegten Punkten anhält und erst nach der Entscheidung eines Menschen weiterarbeitet. Der Begriff ist vor allem bei KI-Agenten wichtig, weil diese nicht nur Text erzeugen, sondern über Tool Use echte Aktionen in Ihren Systemen auslösen.
Wie funktioniert Human-in-the-Loop?
Der Agent arbeitet selbstständig bis zu einem definierten Freigabepunkt, legt dort sein Zwischenergebnis vor und wartet. Der Mensch kann freigeben, ändern oder ablehnen. Erst danach führt der Agent die Aktion aus, etwa den Versand oder die Buchung.
Entscheidend ist die Platzierung. Ein Freigabepunkt gehört dorthin, wo eine Aktion nach außen wirkt oder sich nicht einfach zurückdrehen lässt:
- Vor dem Versand: Ein Angebots-Agent erstellt Angebot und Begleitmail, ein Mensch prüft beides, dann geht die Mail raus.
- Vor der Buchung: Ein Agent ordnet eine Eingangsrechnung Kostenstelle und Konto zu, die Buchhaltung bestätigt, erst dann wird gebucht.
- Vor Änderungen an Stammdaten: Ein Agent schlägt neue Lieferkonditionen im ERP vor, die zuständige Person übernimmt sie.
Recherche, Zusammenfassungen und Entwürfe laufen dagegen ohne Halt. So bleibt der Agent schnell, und der Mensch entscheidet nur dort, wo es zählt.
Technisch unterstützen Frameworks das direkt. In LangGraph hält die Funktion interrupt() den Ablauf an, speichert den Zustand über einen Checkpointer und setzt ihn mit Command(resume=...) fort, sobald die Entscheidung vorliegt (LangGraph-Dokumentation). Der Agent kann also Stunden auf eine Freigabe warten, ohne seinen Stand zu verlieren.
Was hat Human-in-the-Loop mit dem AI Act zu tun?
Der AI Act verlangt in Artikel 14 menschliche Aufsicht für Hochrisiko-KI-Systeme. Human-in-the-Loop ist eine Möglichkeit, diese Aufsicht umzusetzen, aber nicht die einzige. Typische Agenten im Vertrieb oder Service fallen in der Regel nicht unter diese Pflicht.
Artikel 14 nennt unter anderem, dass die Aufsichtsperson die Ausgabe des Systems außer Acht lassen, übersteuern oder rückgängig machen und den Betrieb anhalten können muss. Nach Artikel 26 müssen Betreiber die Aufsicht natürlichen Personen übertragen, die dafür befähigt, geschult und befugt sind. Die Pflichten für eigenständige Hochrisiko-Systeme gelten nach dem beschlossenen AI-Omnibus ab dem 2. Dezember 2027, für Systeme in Produkten ab dem 2. August 2028 (Addleshaw Goddard, Stand Oktober 2026). Das ist eine Orientierung, keine Rechtsberatung.
Abgrenzung und worauf Sie achten sollten
Human-in-the-Loop beschreibt einen konkreten Freigabeschritt im Ablauf. Verwandte Begriffe setzen woanders an und werden oft verwechselt.
- Menschliche Aufsicht ist der rechtliche Oberbegriff aus dem AI Act. Sie kann auch ohne Freigabe pro Vorgang erfüllt werden, etwa durch Überwachung und Stoppmöglichkeit.
- Autonomiestufen beschreiben, wie viel ein Agent insgesamt selbst entscheidet. Human-in-the-Loop legt fest, an welcher Stelle diese Autonomie endet.
- Guardrails sind technische Grenzen, die ohne Menschen greifen, etwa ein Betragslimit oder gesperrte Tools.
Die größte Schwäche ist Gewöhnung: Wer täglich Dutzende Vorschläge bestätigt, klickt irgendwann nur noch durch. Artikel 14 nennt diese übermäßige Verlässlichkeit ausdrücklich als Automatisierungsbias. Halten Sie Freigaben deshalb selten und aussagekräftig – zeigen Sie dem Menschen, was sich ändert und warum, statt nur „OK" anzubieten. Wie solche Freigabepunkte in konkreten KI-Agenten für Fachbereiche aussehen, hängt vom Prozess und vom Risiko der jeweiligen Aktion ab.
Häufige Fragen
Ist Human-in-the-Loop gesetzlich vorgeschrieben?
Der AI Act verlangt menschliche Aufsicht für Hochrisiko-KI-Systeme, schreibt aber keinen bestimmten Freigabeschritt vor. Für die meisten Agenten im Büroalltag ist Human-in-the-Loop eine Designentscheidung, keine Pflicht – das ist keine Rechtsberatung.
Wie unterscheidet sich Human-in-the-Loop von Human-on-the-Loop?
Bei Human-in-the-Loop wartet das System auf eine Freigabe. Bei Human-on-the-Loop läuft es selbstständig weiter, und ein Mensch beobachtet und greift bei Bedarf ein.
Macht ein Freigabeschritt den Agenten nicht langsamer?
Ja, an genau dieser Stelle. Deshalb setzt man Freigaben nur dort, wo eine Aktion nach außen wirkt oder schwer rückgängig zu machen ist, und lässt Recherche und Entwürfe ohne Halt laufen.
Quellen
- EU AI Act, Artikel 14: Menschliche Aufsicht artificialintelligenceact.eu
- EU AI Act, Artikel 26: Pflichten der Betreiber von Hochrisiko-KI-Systemen artificialintelligenceact.eu
- Addleshaw Goddard: EU AI Act – AI Omnibus formally adopted addleshawgoddard.com
- LangGraph-Dokumentation: Interrupts docs.langchain.com