KI-Governance: Definition und Bedeutung für Unternehmen
KI-Governance bezeichnet die Regeln, Rollen und Kontrollen, mit denen ein Unternehmen festlegt, welche KI-Systeme es einsetzt, wer dafür verantwortlich ist und wie Risiken überwacht werden. Sobald KI-Agenten nicht nur Texte entwerfen, sondern in Systemen handeln – ein Angebot anlegen, ein Ticket schließen, eine E-Mail versenden –, wird diese Frage praktisch: Jemand muss entscheiden, was ein Agent darf.
Wie funktioniert KI-Governance?
KI-Governance funktioniert über drei Bausteine: Regeln legen fest, was erlaubt ist, Rollen legen fest, wer entscheidet und haftet, und Kontrollen prüfen, ob beides eingehalten wird. Das NIST AI Risk Management Framework beschreibt „Govern“ als Querschnittsfunktion, die die übrigen Funktionen Map, Measure und Manage trägt.
Konkret für KI-Agenten:
- Regeln: Welche Daten ein Agent lesen darf, welche Aktionen er selbst ausführen darf und welche eine menschliche Freigabe im Sinne von Human-in-the-Loop brauchen (etwa: Angebotsentwurf ja, Versand an den Kunden nur nach Freigabe).
- Rollen: Eine fachlich verantwortliche Person je Agent, eine übergreifende KI-Verantwortung und die Geschäftsleitung als letzte Instanz. Laut NIST liegt die Verantwortung für Entscheidungen über KI-Risiken bei der Unternehmensleitung.
- Kontrollen: Ein Verzeichnis aller KI-Anwendungen, Protokolle der Agenten-Aktionen, regelmäßige Stichproben oder Evals und ein Weg, einen Agenten sofort abzuschalten.
Das NIST-Rahmenwerk ist freiwillig. Verbindliche Anforderungen kommen in der EU aus der KI-Verordnung: Artikel 4 verpflichtet Anbieter und Betreiber seit dem 2. Februar 2025, Maßnahmen für ein ausreichendes Maß an KI-Kompetenz ihres Personals zu ergreifen. Für Hochrisiko-Systeme verlangt Artikel 26 unter anderem menschliche Aufsicht durch kompetente Personen und die Aufbewahrung automatisch erzeugter Protokolle für mindestens sechs Monate. Das ist eine Orientierung, keine Rechtsberatung.
Beispiel und Abgrenzung
Für ein Unternehmen mit 200 Mitarbeitenden braucht KI-Governance keinen eigenen Ausschuss und kein hundertseitiges Handbuch. Ein schlanker Rahmen passt auf wenige Seiten und wird von wenigen Personen getragen; Konzerne mit 20.000 Mitarbeitenden bauen dafür ganze Abteilungen auf.
Ein schlanker Rahmen kann so aussehen:
- Verzeichnis: eine Tabelle mit jedem KI-Tool und jedem Agenten, Zweck, verarbeiteten Daten und verantwortlicher Person.
- Freigabestufen: Agenten, die nur lesen und entwerfen, gibt die Fachabteilung frei; Agenten, die nach außen handeln oder personenbezogene Daten verarbeiten, zusätzlich Datenschutz und Geschäftsleitung.
- Nutzungsregeln: eine kurze KI-Richtlinie für alle Mitarbeitenden.
- Schulung: ein dokumentierter Einstieg für alle, die KI nutzen.
- Überprüfung: einmal im Quartal Verzeichnis, Protokolle und Vorfälle durchsehen.
Abgrenzung zu verwandten Begriffen: Die KI-Richtlinie ist nur das Regeldokument für Mitarbeitende, also ein Teil der Governance. Die KI-Leitung (Chief AI Officer) ist die Rolle, die Governance im Alltag verantwortet. Der EU AI Act ist der gesetzliche Rahmen, den die Governance unter anderem erfüllen muss. Weitere Begriffe finden Sie im KI-Lexikon und in den Artikeln im Wissensbereich.
Worauf achten?
Der häufigste Fehler ist Governance als reines Papier: Eine Richtlinie existiert, aber niemand führt das Verzeichnis, und Agenten laufen ohne Protokoll. Umgekehrt bremst ein zu schwerer Rahmen jeden Versuch aus, sodass Mitarbeitende auf private Konten ausweichen.
Praktisch bewährt hat sich in unserem eigenen Betrieb, Governance zusammen mit dem ersten Agenten aufzubauen statt vorab: Die Regeln entstehen an einem echten Prozess und bleiben deshalb knapp. Wer die Rolle der KI-Verantwortung nicht intern besetzen kann, findet beim Aufbau einer KI-Leitung einen Weg, sie extern zu übernehmen.
Häufige Fragen
Brauchen kleine und mittlere Unternehmen überhaupt KI-Governance?
Ja, aber in kleinem Zuschnitt. Ein Verzeichnis der KI-Anwendungen, eine verantwortliche Person, Freigaberegeln und ein Schulungsnachweis decken in vielen Fällen das Wesentliche ab.
Ist KI-Governance gesetzlich vorgeschrieben?
Den Begriff schreibt kein Gesetz vor, einzelne Bausteine aber schon: Die EU-KI-Verordnung verlangt seit dem 2. Februar 2025 Maßnahmen zur KI-Kompetenz des Personals. Das ist eine Orientierung, keine Rechtsberatung.
Was ist der Unterschied zwischen KI-Governance und einer KI-Richtlinie?
Die KI-Richtlinie ist ein Dokument mit Nutzungsregeln für Mitarbeitende. KI-Governance ist der gesamte Rahmen, zu dem neben der Richtlinie auch Rollen, Freigaben, Überwachung und Protokollierung gehören.
Wer sollte KI-Governance im Unternehmen verantworten?
Die Verantwortung liegt bei der Geschäftsleitung; die operative Steuerung übernimmt oft eine benannte KI-Leitung, intern oder extern.
Quellen
- NIST AI RMF 1.0 – Core (Govern, Map, Measure, Manage) airc.nist.gov
- NIST – AI Risk Management Framework nist.gov
- EU AI Act, Artikel 4: KI-Kompetenz artificialintelligenceact.eu
- EU AI Act, Artikel 26: Pflichten der Betreiber von Hochrisiko-KI-Systemen artificialintelligenceact.eu