Rollen im KI-Agenten-Team: Wer was macht
Wer einen KI-Agenten baut, merkt schnell, dass die Technik selten der Engpass ist. Schwieriger ist die Frage, wer entscheidet, was der Agent darf, wer seine Ergebnisse beurteilt und wer ihn nach dem Projekt am Laufen hält. Dieser Überblick beschreibt ein Rollenmodell für kleine Teams im Mittelstand und zeigt, welche Rollen sich zusammenlegen und welche sich extern abdecken lassen.
Was ist ein KI-Agenten-Team und wofür braucht man es?
Ein KI-Agenten-Team ist die Gruppe von Personen, die einen Agenten fachlich verantwortet, technisch baut, sicher betreibt und in die Prioritäten des Unternehmens einordnet. Es ist keine neue Abteilung, sondern eine Zuordnung von Verantwortung. Ohne diese Zuordnung entstehen Pilotprojekte, die niemand weiterführt.
Ein Agent unterscheidet sich von klassischer Software dadurch, dass er Entscheidungen innerhalb eines Ablaufs selbst trifft. Anthropic beschreibt Agenten als Systeme, in denen Sprachmodelle ihre eigenen Abläufe und die Nutzung von Werkzeugen dynamisch steuern, und grenzt sie von Workflows ab, die über vorab festgelegte Codepfade laufen (Building effective agents). Genau diese Eigenständigkeit verschiebt die Arbeit: Jemand muss laufend beurteilen, ob die Entscheidungen fachlich stimmen.
Typische Folgen fehlender Rollen sind:
- Der Agent liefert im Test gute Ergebnisse, aber niemand im Fachbereich fühlt sich zuständig, ihn im Alltag zu nutzen.
- Fehlerhafte Ausgaben werden bemerkt, aber nicht gemeldet, weil unklar ist, an wen.
- Zugangsdaten und API-Schlüssel liegen bei einer einzelnen Person, die das Projekt gebaut hat.
- Neue Ideen für Agenten konkurrieren ungeordnet um dieselben Leute.
Ein Rollenmodell beantwortet diese Fragen, bevor sie auftreten.
Welche vier Rollen braucht ein kleines Agenten-Team?
Für Mittelständler genügen vier Kernrollen: der fachliche Owner, der AI Engineer, der Betrieb und die KI-Leitung. Sie decken die Fragen „Was soll der Agent tun?", „Wie wird er gebaut?", „Wie läuft er sicher?" und „Warum gerade dieser Agent?" ab. Eine Rolle ist eine Verantwortung, keine Stelle.
Fachlicher Owner
Der fachliche Owner kommt aus dem Prozess, den der Agent unterstützt, etwa die Leitung Innendienst bei einem Angebotsagenten oder die Serviceleitung bei einem Agenten für Störungsmeldungen. Er oder sie
- beschreibt den Ablauf so, wie er tatsächlich läuft, nicht wie er im Handbuch steht,
- liefert Beispielfälle mit dem erwarteten Ergebnis (zum Beispiel 30 echte Anfragen mit den Angeboten, die daraus entstanden sind),
- beurteilt die Ausgaben des Agenten während der Entwicklung und im Betrieb,
- entscheidet, welche Schritte der Agent selbstständig ausführen darf und wo ein Mensch freigibt.
Diese Rolle ist die wichtigste und die am häufigsten unterschätzte. Ohne sie baut das Engineering gegen Vermutungen.
AI Engineer
Der AI Engineer setzt den Agenten technisch um: Modellauswahl, Prompts, Anbindung von Werkzeugen und Schnittstellen, Testfälle und Auswertung. Anthropic betont, dass Werkzeugbeschreibungen so viel Sorgfalt brauchen wie die Prompts selbst und dass der Erfolg davon abhängt, Leistung zu messen und schrittweise zu verbessern (Building effective agents). Das ist der Kern dieser Rolle: nicht nur bauen, sondern prüfbar machen.
Zum Profil gehören solide Programmierkenntnisse (meist Python oder TypeScript), Erfahrung mit APIs und Datenformaten und die Fähigkeit, mit dem fachlichen Owner auf Augenhöhe über Prozesse zu sprechen. Ein Forschungshintergrund im maschinellen Lernen ist für die meisten Agenten nicht nötig, weil sie auf vorhandenen Sprachmodellen aufbauen und kein eigenes Modell trainieren.
Betrieb
Der Betrieb sorgt dafür, dass der Agent nach dem Projekt zuverlässig und sicher läuft. Diese Rolle sitzt meist in der IT oder beim IT-Dienstleister und kümmert sich um
- Zugänge, Berechtigungen und die Verwaltung von API-Schlüsseln,
- die Laufzeitumgebung (Cloud-Dienst, eigener Server oder GPU-Rechner im Haus),
- Protokollierung und Überwachung: Läuft der Agent, wie oft bricht er ab, wie entwickeln sich Kosten und Antwortzeiten,
- Updates von Modellen und Bibliotheken sowie Datensicherung.
Was dazu im Detail gehört, beschreibt der Überblick AgentOps: KI-Agenten zuverlässig betreiben. Der Betrieb ist kein Anhängsel. Agenten greifen auf Systeme wie ERP, CRM oder Dokumentenablagen zu; jede dieser Verbindungen ist ein Zugang, der verwaltet werden muss.
KI-Leitung
Die KI-Leitung ordnet einzelne Agenten in die Ziele des Unternehmens ein. Sie entscheidet, welche Anwendungsfälle zuerst kommen, legt Regeln für Daten, Modelle und Anbieter fest und berichtet an die Geschäftsführung. In kleinen Unternehmen übernimmt diese Aufgabe oft ein Mitglied der Geschäftsführung selbst oder eine Person in Teilzeit. Welche Formen der KI-Leitung im Mittelstand es gibt, vom Head of AI bis zur externen Lösung, vertieft ein eigener Artikel.
Das NIST AI Risk Management Framework verlangt in seiner Govern-Funktion, dass Rollen, Verantwortlichkeiten und Kommunikationswege dokumentiert und im ganzen Unternehmen klar sind, und dass die oberste Leitung Verantwortung für Entscheidungen über KI-Risiken übernimmt (NIST AI RMF Core). Das beschreibt gut, was diese Rolle leisten soll. Wie die übergeordnete Agenda entsteht, beschreibt der Überblick zur KI-Strategie für den Mittelstand.
Wer sitzt außerdem mit am Tisch?
Neben den vier Kernrollen gibt es Beteiligte, die nicht laufend mitarbeiten, aber an festen Punkten eingebunden werden müssen: Datenschutz, Informationssicherheit, Betriebsrat und die Anwenderinnen und Anwender selbst. Wer sie erst kurz vor dem Start informiert, riskiert Verzögerungen genau dann, wenn der Agent fertig ist.
- Datenschutz: prüft, welche personenbezogenen Daten der Agent verarbeitet, bei welchem Anbieter und auf welcher Rechtsgrundlage. Ziel ist ein Agent, der datenschutzkonform betreibbar ist.
- Informationssicherheit: bewertet Zugriffsrechte, Datenflüsse und die Frage, was passiert, wenn der Agent manipulierte Eingaben erhält.
- Betriebsrat: In Deutschland hat der Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG mitzubestimmen bei der Einführung und Anwendung technischer Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen. Ob ein Agent darunter fällt, hängt von seiner Ausgestaltung ab; frühe Information schafft Vertrauen. Dieser Hinweis ist keine Rechtsberatung.
- Anwenderinnen und Anwender: arbeiten täglich mit dem Agenten. Ihr Feedback ist die wichtigste Quelle für Verbesserungen, wenn es einen festen Kanal gibt.
Wie lassen sich die Rollen in kleinen Teams verteilen?
In einem Unternehmen mit einigen hundert Beschäftigten werden die vier Rollen selten von vier Personen in Vollzeit besetzt. Üblich ist, dass zwei bis drei Personen sie mit festen Zeitanteilen übernehmen. Entscheidend ist, dass jede Rolle einen Namen hat und dass Zeitanteile verbindlich eingeplant sind, nicht „nebenbei".
Drei Muster sind verbreitet:
| Muster | Wer übernimmt was | Passt, wenn |
|---|---|---|
| Fachbereich führt | Owner aus dem Fachbereich, Engineering extern, Betrieb bei der IT, Leitung durch die Geschäftsführung | der erste Agent einen klar umrissenen Prozess unterstützt |
| IT führt | IT-Leitung übernimmt KI-Leitung und Betrieb, ein Entwickler wird zum AI Engineer, Owner im Fachbereich | eine starke interne IT mit Entwicklungskapazität vorhanden ist |
| Gemischtes Kernteam | KI-Leitung in Teilzeit, ein interner AI Engineer, Owner je Agent, Betrieb bei IT oder Dienstleister | mehrere Agenten parallel laufen sollen |
Zwei Rollen sollten nicht in einer Person zusammenfallen: fachlicher Owner und AI Engineer. Wer den Agenten baut, beurteilt die Ergebnisse zu wohlwollend. Die Trennung ist eine einfache Form der Qualitätssicherung.
Welche Rollen lassen sich extern abdecken?
Extern abdecken lassen sich vor allem die Rollen, die Fachwissen über Agenten verlangen, aber anfangs nicht voll auslasten: AI Engineer und KI-Leitung. Der fachliche Owner bleibt intern, ebenso die Verantwortung des Betriebs für Zugänge. Wichtig ist, Wissen so zu übergeben, dass das Unternehmen nicht dauerhaft abhängig bleibt.
| Rolle | Extern möglich? | Worauf achten |
|---|---|---|
| Fachlicher Owner | nein | Prozesswissen und Verantwortung bleiben im Haus |
| AI Engineer | ja, besonders beim ersten Agenten | Code, Prompts und Testfälle gehören dem Unternehmen und liegen in dessen Repository |
| Betrieb | teilweise | Hosting kann ein Dienstleister übernehmen; Schlüssel und Berechtigungen verwaltet das Unternehmen |
| KI-Leitung | ja, in Teilzeit | klare Übergabe an eine interne Person, sobald mehrere Agenten laufen |
Eine KI-Leitung in Teilzeit hilft vor allem dort, wo noch niemand im Haus Erfahrung mit Agenten hat, aber Entscheidungen über Anbieter, Daten und Prioritäten anstehen. Wie ein solches Modell aussehen kann, zeigt die Seite zum KI-Aufbau mit externer KI-Leitung.
Welche Voraussetzungen braucht das Team?
Das Team braucht drei Dinge: Zeit, Zugang und Kompetenz. Zeit heißt fest eingeplante Stunden für den Owner. Zugang heißt Lesezugriff auf die Daten und Systeme, die der Agent nutzen soll. Kompetenz heißt, dass alle Beteiligten verstehen, was ein Sprachmodell kann und wo es irrt.
Zeit. Der Owner ist in der Bauphase am stärksten gefordert, weil Beispielfälle zusammengestellt und Ausgaben bewertet werden müssen. Plant man dafür keine Zeit ein, verlagert sich die Prüfung auf den AI Engineer, der den Prozess nicht kennt.
Zugang. Viele Projekte verlieren Wochen, weil Testzugänge zu ERP, CRM oder Dokumentenablage fehlen. Der Betrieb sollte die nötigen Zugänge vor dem Projektstart klären, mit möglichst eingeschränkten Rechten.
Kompetenz. Seit dem 2. Februar 2025 verlangt Artikel 4 der KI-Verordnung, dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften ein ausreichendes Maß an KI-Kompetenz ihres Personals sicherzustellen. Eine bestimmte Stufe wird nicht garantiert verlangt, aber die Pflicht gilt unabhängig von der Risikoklasse. Für das Agenten-Team heißt das: Owner, Betrieb und Anwender brauchen eine Einweisung, die zu ihrer Rolle passt. Was die Pflicht konkret bedeutet, erklärt der Artikel zur KI-Kompetenz nach Art. 4 AI Act; ein Workshop zum Einstieg ist eine Möglichkeit, sie zu erfüllen.
Fällt ein Agent in den Bereich der Hochrisiko-KI, kommen weitere Pflichten hinzu. Artikel 26 der KI-Verordnung verlangt dann unter anderem, die menschliche Aufsicht natürlichen Personen zu übertragen, die die nötige Kompetenz, Schulung und Befugnis haben, den Betrieb zu überwachen und automatisch erzeugte Protokolle mindestens sechs Monate aufzubewahren, soweit sie unter der Kontrolle des Betreibers stehen. Ob ein Agent als Hochrisiko-System gilt, hängt von seinem Einsatzzweck ab; die Einordnung sollte in jedem Fall dokumentiert werden.
Wie baut man das Team Schritt für Schritt auf?
Am besten wächst das Team mit dem ersten Agenten, nicht vor ihm. Wer zuerst eine Organisation entwirft und danach einen Anwendungsfall sucht, verteilt Rollen ohne Inhalt. Die folgenden Schritte haben sich in unserem eigenen Betrieb bewährt.
- Anwendungsfall und Owner gemeinsam festlegen. Ein Prozess ohne Person, die ihn verantworten will, ist kein guter erster Anwendungsfall.
- KI-Leitung benennen. Intern oder extern, aber mit Namen und dem Auftrag, Prioritäten und Regeln festzuhalten.
- Engineering besetzen. Interner Entwickler mit Zeitanteil oder externer AI Engineer; Code und Testfälle liegen von Anfang an im Repository des Unternehmens.
- Betrieb früh einbinden. Zugänge, Laufzeitumgebung und Protokollierung vor dem ersten Test klären.
- Datenschutz, Informationssicherheit und Betriebsrat informieren. Vor dem Pilotbetrieb, mit einer kurzen Beschreibung von Daten, Anbietern und Entscheidungsbefugnissen des Agenten.
- Rollen schriftlich festhalten. Eine Seite genügt: Rolle, Person, Zeitanteil, Vertretung, Eskalationsweg.
- Nach dem Pilot überprüfen. Hat jede Rolle funktioniert? Wo fehlte Zeit? Erst dann über eigene Stellen entscheiden.
Für den Anwendungsfall selbst bieten sich Prozesse mit vielen ähnlichen Vorgängen und klaren Ergebnissen an, etwa die Angebotserstellung oder der technische Service. Einen Überblick über typische Agenten gibt die Seite zu KI-Agenten.
Welche Grenzen und Risiken hat ein kleines Team?
Kleine Teams sind schnell, aber verletzlich. Das größte Risiko ist die Abhängigkeit von einer Person, die den Agenten gebaut hat und als einzige versteht. Weitere Risiken sind fehlende Zeit beim Owner, Rollen, die nur auf dem Papier existieren, und eine KI-Leitung ohne Entscheidungsbefugnis.
- Kopfmonopol. Wenn nur eine Person Prompts, Schlüssel und Testfälle kennt, steht der Agent bei deren Ausfall still. Gegenmittel: Dokumentation im Repository, eine benannte Vertretung, Schlüssel in einem gemeinsamen Passwort- oder Geheimnisspeicher.
- Owner ohne Zeit. Die häufigste Ursache für stagnierende Agenten. Gegenmittel: Zeitanteil mit der Linienführung vereinbaren, nicht nur mit der Person.
- Leitung ohne Mandat. Eine KI-Leitung, die Prioritäten nicht durchsetzen kann, wird zur Beratungsstelle. Die Geschäftsführung muss ihre Entscheidungen mittragen.
- Zu viel Struktur zu früh. Gremien, Lenkungskreise und Rollenbeschreibungen für Agenten, die es noch nicht gibt, binden Zeit ohne Ergebnis.
- Dauerhafte Auslagerung. Externe Unterstützung ist für den Start sinnvoll. Wer aber nach mehreren Agenten noch kein internes Wissen aufgebaut hat, bleibt bei jeder Änderung abhängig.
Wann passt das Modell nicht? Für Unternehmen, die ausschließlich fertige KI-Funktionen in Standardsoftware nutzen, sind vier Rollen zu viel; dort genügen eine verantwortliche Person und die üblichen IT-Prozesse. Umgekehrt brauchen Unternehmen mit eigener Produktentwicklung auf Basis von KI ein deutlich größeres Team mit Spezialrollen.
Wie fange ich an?
Beginnen Sie mit einer Frage: Welcher Prozess hat eine Person, die ihn verbessern will und Zeit dafür bekommt? Diese Person wird der erste fachliche Owner. Um sie herum besetzen Sie Engineering, Betrieb und Leitung, intern oder extern, und halten die Zuordnung auf einer Seite fest.
Eine einfache Vorlage für diese Seite:
- Agent: Name und Prozess, den er unterstützt
- Fachlicher Owner: Person, Zeitanteil, Vertretung
- AI Engineer: Person oder Dienstleister, Ort des Repositorys
- Betrieb: Person oder Dienstleister, Laufzeitumgebung, Ort der Schlüssel
- KI-Leitung: Person, Berichtsweg zur Geschäftsführung
- Eingebunden: Datenschutz, Informationssicherheit, Betriebsrat mit Datum
- Eskalation: Wer wird informiert, wenn der Agent falsche Ergebnisse liefert, und wer darf ihn abschalten?
Die letzte Zeile ist die wichtigste. Ein Agent, den niemand abschalten darf oder will, ist ein Risiko; ein Agent mit klarer Zuständigkeit ist ein Werkzeug, das sich weiterentwickeln lässt. Wenn noch niemand im Haus die Leitung übernehmen kann, ist eine externe KI-Leitung in Teilzeit ein möglicher Übergang, bis intern genug Erfahrung vorhanden ist.
Häufige Fragen
Brauche ich für den ersten KI-Agenten eigene Stellen?
Nein. Für den ersten Agenten genügen Rollen, die bestehende Mitarbeitende mit einem festen Zeitanteil übernehmen. Eigene Stellen lohnen sich erst, wenn mehrere Agenten dauerhaft betrieben und weiterentwickelt werden.
Welche Rolle sollte nie ausgelagert werden?
Der fachliche Owner. Nur jemand aus dem eigenen Prozess kann entscheiden, ob ein Ergebnis des Agenten richtig ist, und trägt die Verantwortung für den Prozess auch nach dem Projekt.
Ist der Datenschutzbeauftragte Teil des Agenten-Teams?
Er gehört nicht zum Kernteam, sollte aber vor dem Pilotbetrieb eingebunden werden, ebenso die Informationssicherheit. Beide prüfen, welche Daten der Agent sieht und wohin sie fließen.
Wer haftet, wenn ein Agent einen Fehler macht?
Organisatorisch bleibt der Prozess in der Verantwortung des fachlichen Owners und der Leitung, nicht des Werkzeugs. Rechtliche Haftungsfragen klärt dieser Artikel nicht; dafür ist eine juristische Prüfung nötig.
Quellen
- EU AI Act, Artikel 4: KI-Kompetenz artificialintelligenceact.eu
- EU AI Act, Artikel 26: Pflichten der Betreiber von Hochrisiko-KI-Systemen artificialintelligenceact.eu
- NIST AI Risk Management Framework, Core (Govern, Map, Measure, Manage) airc.nist.gov
- Anthropic: Building effective agents (Dezember 2024) anthropic.com
- Betriebsverfassungsgesetz, § 87 Mitbestimmungsrechte gesetze-im-internet.de