Zum Inhalt springen

EU AI Act im Mittelstand: Was Unternehmen als Anwender tun müssen

Die meisten mittelständischen Unternehmen entwickeln keine KI, sie setzen sie ein: als Chat-Assistent im Büro, als Agent im Angebotsprozess, als Funktion in der HR-Software. Der AI Act nennt diese Rolle „Betreiber". Dieser Überblick sortiert die Pflichten nach Rolle und Risikoklasse, berücksichtigt die Änderungen durch den Digital Omnibus (Stand Oktober 2026) und ist Orientierung, keine Rechtsberatung.

Was ist der EU AI Act und wen trifft er als Anwender?

Der AI Act ist die Verordnung (EU) 2024/1689, die seit 1. August 2024 in Kraft ist und schrittweise gilt. Er trifft nicht nur Hersteller: Jedes Unternehmen, das ein KI-System beruflich unter eigener Verantwortung nutzt, ist Betreiber (englisch „deployer"). Nur die rein private, nicht berufliche Nutzung ist ausgenommen.

Die Definition in Artikel 3 trennt zwei Hauptrollen:

  • Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen in Verkehr oder nehmen es in Betrieb, unabhängig davon, ob sie Geld dafür verlangen.
  • Betreiber verwenden ein KI-System in eigener Verantwortung.

Für ein typisches Unternehmen mit 50 bis 500 Beschäftigten heißt das: Bei eingekauften Werkzeugen wie Microsoft Copilot, ChatGPT Enterprise oder einer KI-Funktion im ERP sind Sie Betreiber. Die Pflichten des Anbieters, etwa technische Dokumentation oder Konformitätsbewertung, liegen beim Hersteller. Ihre Pflichten hängen davon ab, wofür Sie das System einsetzen.

Das ist der Kern dieser Seite: Nicht die Technik entscheidet über Ihre Pflichten, sondern der Einsatzzweck. Dasselbe Sprachmodell kann im Angebotsentwurf kaum Pflichten auslösen und bei der Vorauswahl von Bewerbungen zum Hochrisiko-System werden.

Wie ist der AI Act aufgebaut? Die vier Risikostufen

Der AI Act ordnet KI-Anwendungen vier Stufen zu: verbotene Praktiken, Hochrisiko-Systeme, Systeme mit Transparenzpflichten und Systeme mit minimalem Risiko. Je höher die Stufe, desto mehr Pflichten. Für Betreiber gilt zusätzlich eine stufenübergreifende Pflicht zur Förderung von KI-Kompetenz.

Die Europäische Kommission beschreibt die Stufen so:

  1. Unannehmbares Risiko: verboten, etwa Social Scoring oder das ungezielte Auslesen von Gesichtsbildern für Gesichtserkennungsdatenbanken.
  2. Hohes Risiko: Anwendungen, die Gesundheit, Sicherheit oder Grundrechte erheblich berühren können, zum Beispiel Bewerberauswahl oder Kreditwürdigkeitsprüfung.
  3. Transparenzrisiko: Systeme, bei denen Menschen wissen müssen, dass KI im Spiel ist, etwa Chatbots oder Deepfakes.
  4. Minimales Risiko: keine zusätzlichen Pflichten aus dem AI Act, zum Beispiel Spamfilter.

Für Betreiber heißt das: Zuerst prüfen Sie, ob ein Einsatz verboten ist. Dann, ob er in einen der Hochrisiko-Bereiche fällt. Dann, ob Transparenzpflichten greifen. Was danach übrig bleibt, ist minimales Risiko. Wie Sie diese Einordnung Schritt für Schritt vornehmen, behandelt ein eigener Artikel zu den Risikoklassen.

Welche Pflichten gelten nach Rolle und Risikoklasse?

Für Betreiber lassen sich die Pflichten in vier Gruppen fassen: Verbote und KI-Kompetenz gelten schon, Transparenzpflichten ab 2. August 2026, die Hochrisiko-Pflichten aus Artikel 26 ab 2. Dezember 2027. Wer ein System selbst baut oder wesentlich verändert, kann zusätzlich in die Anbieterrolle rutschen.

Verbotene Praktiken (seit Februar 2025)

Seit 2. Februar 2025 sind bestimmte Praktiken verboten, darunter nach Artikel 5 Social Scoring, manipulative Techniken und das Ableiten von Emotionen am Arbeitsplatz, soweit es nicht medizinischen oder Sicherheitszwecken dient. Der Digital Omnibus hat laut Kommission ein weiteres Verbot ergänzt: KI-Systeme, die nicht einvernehmliche intime Darstellungen oder Darstellungen sexuellen Kindesmissbrauchs erzeugen. Es gilt ab Dezember 2026, nach dem Omnibus-Text ab 2. Dezember 2026. Für Unternehmen im Normalbetrieb ist das selten relevant, eine kurze Prüfung gehört trotzdem ins Inventar.

KI-Kompetenz (seit Februar 2025, abgeschwächt)

Artikel 4 gilt seit 2. Februar 2025 für Anbieter und Betreiber. Der Omnibus hat die Pflicht umformuliert: Statt ein „ausreichendes" Kompetenzniveau sicherzustellen, müssen Unternehmen laut Gibson Dunn nun Maßnahmen ergreifen, die den Aufbau von KI-Kompetenz ihrer Beschäftigten unterstützen. Ein bestimmtes Niveau für einzelne Personen wird nicht mehr verlangt. Was das praktisch bedeutet, steht im Artikel KI-Kompetenz nach Art. 4 AI Act.

Transparenzpflichten (ab 2. August 2026)

Artikel 50 verteilt Transparenzpflichten auf Anbieter und Betreiber. Betreiber müssen:

  • Personen informieren, wenn sie einem System zur Emotionserkennung oder biometrischen Kategorisierung ausgesetzt sind (Absatz 3),
  • offenlegen, dass Bild-, Audio- oder Videoinhalte künstlich erzeugt oder manipuliert wurden, wenn sie echt wirken würden (Deepfakes, Absatz 4),
  • offenlegen, dass ein Text KI-generiert ist, wenn er veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Das entfällt, wenn der Text menschlich geprüft wurde und jemand die redaktionelle Verantwortung trägt.

Dass Nutzer erkennen, mit einer KI zu sprechen, muss nach Absatz 1 der Anbieter durch die Gestaltung des Systems sicherstellen. Bauen Sie einen Chatbot für Ihre Website selbst, sind Sie dafür in der Regel selbst Anbieter. Die Kennzeichnung muss spätestens bei der ersten Interaktion klar erkennbar sein.

Pflichten bei Hochrisiko-KI (ab 2. Dezember 2027)

Setzen Sie ein Hochrisiko-System nach Anhang III ein, greift Artikel 26. Für den Mittelstand ist vor allem Bereich 4 relevant: KI für Recruiting und Bewerberauswahl sowie für Entscheidungen über Beförderung, Kündigung, Aufgabenzuteilung nach persönlichen Merkmalen und Leistungsüberwachung. Die wichtigsten Betreiberpflichten:

  • Nutzung nach Gebrauchsanweisung des Anbieters mit geeigneten technischen und organisatorischen Maßnahmen.
  • Menschliche Aufsicht durch Personen mit Kompetenz, Schulung, Befugnis und Unterstützung.
  • Eingabedaten, soweit Sie sie kontrollieren, müssen für den Zweck relevant und hinreichend repräsentativ sein.
  • Überwachung des Betriebs; bei Risiken Anbieter und Marktüberwachungsbehörde informieren und die Nutzung aussetzen, schwerwiegende Vorfälle melden.
  • Protokolle aufbewahren, soweit sie unter Ihrer Kontrolle stehen, mindestens sechs Monate.
  • Beschäftigte und Arbeitnehmervertretung informieren, bevor ein Hochrisiko-System am Arbeitsplatz eingesetzt wird.
  • Betroffene informieren, wenn ein System nach Anhang III Entscheidungen über sie trifft oder dabei unterstützt.
  • Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO durchführen, wo erforderlich, mit den Informationen des Anbieters.

Eine Grundrechte-Folgenabschätzung nach Artikel 27 betrifft dagegen nur bestimmte Betreiber: öffentliche Stellen, private Unternehmen, die öffentliche Dienstleistungen erbringen, sowie Betreiber von Systemen zur Kreditwürdigkeitsprüfung natürlicher Personen und zur Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung. Nach dem Omnibus kann sie auf eine bestehende Datenschutz-Folgenabschätzung verweisen.

Wann Sie selbst Anbieter werden

Artikel 25 regelt, wann ein Betreiber die Pflichten eines Anbieters eines Hochrisiko-Systems übernimmt: wenn er seinen Namen oder seine Marke auf ein solches System setzt, wenn er es wesentlich verändert oder wenn er den Zweck eines Systems so ändert, dass es zum Hochrisiko-System wird. Das passiert schneller, als viele denken, etwa wenn ein allgemeiner Chat-Assistent per Prompt zur Bewerbervorauswahl umfunktioniert wird. Die Abgrenzung zwischen Anbieter und Betreiber bei eigenen KI-Agenten vertieft ein eigener Artikel.

Was hat der Digital Omnibus geändert?

Der Digital Omnibus, Verordnung (EU) 2026/1744, ist am 27. Juli 2026 in Kraft getreten. Er verschiebt die Hochrisiko-Fristen, schwächt die KI-Kompetenzpflicht ab, ergänzt ein neues Verbot und erleichtert Dokumentation für kleine und mittlere Unternehmen. Die Grundstruktur des AI Act bleibt bestehen.

Die Änderungen mit Bedeutung für Betreiber, nach Kommission, Omnibus-Text und der Analyse der Cloud Security Alliance zu den ursprünglichen Fristen:

ThemaVorherNach dem Omnibus
Hochrisiko nach Anhang III2. August 20262. Dezember 2027
Hochrisiko in Produkten (Anhang I)August 20272. August 2028
KI-Kompetenz (Art. 4)„ausreichendes Niveau sicherstellen"Maßnahmen zur Unterstützung ergreifen
Transparenz (Art. 50)2. August 20262. August 2026, Übergang für Markierung bei Bestandssystemen bis 2. Dezember 2026
Neues Verbot intimer Deepfakes–ab 2. Dezember 2026

Die Übergangsfrist bei Artikel 50 betrifft nur die maschinenlesbare Markierung, die Anbieter generativer Systeme liefern müssen, nicht die Offenlegungspflichten der Betreiber. Für kleine Mid-Cap-Unternehmen gelten nach dem Omnibus ebenfalls vereinfachte Dokumentationspflichten und Bußgeldobergrenzen nach dem niedrigeren der beiden Beträge. Diese Erleichterungen betreffen überwiegend Anbieter. Den vollständigen Zeitplan mit allen Stichtagen behandelt ein eigener Artikel zu den AI-Act-Fristen.

Welche Voraussetzungen brauchen Sie im Unternehmen?

Sie brauchen drei Dinge: einen Überblick, welche KI-Systeme im Einsatz sind, eine Person, die die Einordnung verantwortet, und eine Abstimmung mit Datenschutz und Arbeitnehmervertretung. Ein eigenes Compliance-Team ist dafür im Mittelstand meist nicht nötig, wohl aber klare Zuständigkeiten.

Inventar: Viele KI-Funktionen kommen unbemerkt über Software-Updates ins Haus, etwa als Zusammenfassung im CRM oder als Bewerber-Ranking im Recruiting-Tool. Ohne Liste können Sie keine Einstufung vornehmen.

Zuständigkeit: Jemand muss entscheiden, ob ein Einsatz unter Anhang III fällt, und die Entscheidung dokumentieren. In vielen Unternehmen liegt das bei IT-Leitung, Datenschutz oder einer KI-Verantwortlichen, die gemeinsam mit der Geschäftsführung arbeitet. Wie eine solche Rolle aufgebaut werden kann, beschreibt die Seite KI-Aufbau und KI-Leitung.

Schnittstellen: Der AI Act ersetzt die DSGVO nicht, er kommt hinzu. Wo personenbezogene Daten verarbeitet werden, bleibt Ihr Datenschutzbeauftragter im Spiel; worauf es dabei ankommt, beschreibt der Überblick DSGVO und KI-Agenten. Wo ein Betriebsrat besteht, sollten Sie ihn bei KI-Werkzeugen ohnehin früh einbinden; bei Hochrisiko-Systemen tritt die Informationspflicht aus Artikel 26 hinzu.

Verträge mit Anbietern: Für Hochrisiko-Systeme brauchen Sie die Gebrauchsanweisung und die Informationen, die der Anbieter nach dem AI Act bereitstellen muss. Fragen Sie beim Einkauf aktiv danach.

Wie gehen Sie in fünf Schritten vor?

Sinnvoll ist eine Reihenfolge, die mit dem Bestand beginnt und mit Routinen endet: erfassen, einordnen, Rollen klären, Maßnahmen festlegen, regelmäßig prüfen. Für die meisten Unternehmen ist der Aufwand überschaubar, solange kein System in einen Hochrisiko-Bereich fällt.

  1. KI-Systeme erfassen. Listen Sie alle Werkzeuge mit KI-Funktion auf: Name, Anbieter, Zweck, Abteilung, verarbeitete Daten, wer es nutzt. Fragen Sie Abteilungen direkt, statt nur die IT-Beschaffung auszuwerten.
  2. Einsatzzweck einordnen. Prüfen Sie für jeden Eintrag: verboten, Hochrisiko nach Anhang III, Transparenzpflicht nach Artikel 50 oder minimales Risiko. Dokumentieren Sie die Begründung in zwei, drei Sätzen.
  3. Rolle klären. Sind Sie Betreiber eines eingekauften Systems, oder haben Sie selbst etwas gebaut, umbenannt, wesentlich verändert oder zweckentfremdet? Dann prüfen Sie Artikel 25 und die Anbieterpflichten.
  4. Maßnahmen festlegen. Für alle Systeme: Maßnahmen zur KI-Kompetenz und eine Nutzungsrichtlinie. Für Transparenzfälle: Kennzeichnungsregeln für Deepfakes und veröffentlichte Texte. Für Hochrisiko-Systeme: Aufsichtsperson benennen, Protokollaufbewahrung regeln, Belegschaft informieren, Datenschutz-Folgenabschätzung prüfen.
  5. Regelmäßig prüfen. Legen Sie fest, dass neue KI-Funktionen vor dem Einsatz durch dieselbe Prüfung laufen, und überprüfen Sie das Inventar mindestens jährlich.

In unserem eigenen Betrieb hat sich bewährt, das Inventar nicht als Rechtsdokument zu starten, sondern als einfache Tabelle, die mit jedem neuen Werkzeug wächst. Die rechtliche Bewertung baut darauf auf.

Wo liegen Grenzen und Risiken?

Die größten Risiken liegen nicht in komplexen Spezialfällen, sondern in falscher Einordnung: ein Recruiting-Tool, das als harmlos gilt, oder ein selbst gebauter Agent, der unbemerkt zum Hochrisiko-System wird. Hinzu kommen Unsicherheiten, weil Leitlinien und Normen noch nicht vollständig vorliegen.

Bußgelder: Nach Artikel 99 können Verstöße gegen Betreiberpflichten aus Artikel 26 und die Transparenzpflichten aus Artikel 50 mit bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, bei verbotenen Praktiken bis zu 35 Mio. Euro oder 7 %. Für KMU gilt jeweils der niedrigere der beiden Werte.

Aufsicht in Deutschland: Die Bundesnetzagentur wird zentrale Marktüberwachungsbehörde, Anlauf- und Beschwerdestelle; der Bundesrat hat das Durchführungsgesetz laut Otto Schmidt am 10. Juli 2026 gebilligt. Sie soll außerdem mindestens ein KI-Reallabor betreiben, das vor allem kleinen und mittleren Unternehmen offensteht.

Offene Auslegungsfragen: Wann eine Veränderung „wesentlich" ist, wo Aufgabenzuteilung nach persönlichen Merkmalen beginnt oder wie viel menschliche Prüfung einen Text von der Kennzeichnungspflicht befreit, ist im Einzelfall auszulegen. Leitlinien der Kommission und Rechtsprechung werden hier nachschärfen.

Was dieser Überblick nicht leistet: Er ersetzt keine Rechtsberatung und keine Prüfung durch Ihren Datenschutzbeauftragten. Besonders im Personalbereich, bei Kredit- und Versicherungsentscheidungen und bei Systemen mit Bezug zu kritischer Infrastruktur sollten Sie fachlichen Rat einholen.

Falsche Sicherheit durch die Verschiebung: Dass Hochrisiko-Pflichten erst ab Dezember 2027 gelten, heißt nicht, dass bis dahin nichts zu tun ist. Die Datenschutz-Grundverordnung, das Arbeitsrecht und die bereits geltenden Teile des AI Act greifen schon heute.

Wie fangen Sie an?

Beginnen Sie mit dem Inventar und der Frage, ob irgendein System Menschen bewertet, auswählt oder überwacht. Fällt die Antwort für alle Systeme negativ aus, konzentrieren Sie sich auf KI-Kompetenz und Transparenz. Fällt sie positiv aus, planen Sie die Hochrisiko-Pflichten jetzt, nicht im Herbst 2027.

Ein pragmatischer Einstieg für die nächsten vier Wochen:

  • Woche 1: Inventar aller KI-Werkzeuge per Umfrage in den Abteilungen.
  • Woche 2: Einordnung jedes Eintrags in die vier Risikostufen, mit kurzer Begründung.
  • Woche 3: Nutzungsrichtlinie und Maßnahmen zur KI-Kompetenz festlegen, Kennzeichnungsregeln für veröffentlichte Inhalte ergänzen.
  • Woche 4: Für mögliche Hochrisiko-Fälle Rücksprache mit Rechtsberatung, Datenschutz und Arbeitnehmervertretung.

Wer KI nicht nur nutzen, sondern eigene Agenten aufbauen möchte, sollte die Rollenfrage früh klären und Architekturentscheidungen danach ausrichten. Hinweise dazu, wie Unternehmen KI-Systeme unter eigener Kontrolle betreiben, finden Sie unter souveräne KI, einen Überblick über Agenten im Unternehmenseinsatz unter KI-Agenten.

Häufige Fragen

Gilt der AI Act auch, wenn wir nur ChatGPT, Copilot oder Claude im Büro nutzen?

Ja, wer ein KI-System beruflich unter eigener Verantwortung nutzt, ist Betreiber. Für typische Büroanwendungen bleiben die Pflichten aber überschaubar: KI-Kompetenz fördern, verbotene Praktiken meiden und Transparenzpflichten beachten, etwa bei Deepfakes.

Hat der Digital Omnibus die Pflichten für Anwender abgeschafft?

Nein. Er hat die Hochrisiko-Pflichten zeitlich verschoben und die Pflicht zur KI-Kompetenz abgeschwächt, die Grundstruktur des Gesetzes aber beibehalten. Transparenzpflichten gelten weiter ab 2. August 2026.

Wer überwacht den AI Act in Deutschland?

Zentrale Marktüberwachungsbehörde wird die Bundesnetzagentur; der Bundesrat hat das Durchführungsgesetz am 10. Juli 2026 gebilligt. Für einzelne Bereiche können weitere Behörden zuständig sein.

Werden wir zum Anbieter, wenn wir einen eigenen KI-Agenten bauen?

Wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Betrieb nimmt, ist nach der Definition Anbieter. Bei Hochrisiko-Systemen werden Sie außerdem Anbieter, wenn Sie ein fremdes System wesentlich verändern oder seinen Zweck in einen Hochrisiko-Bereich verschieben.

Ersetzt dieser Überblick eine Rechtsberatung?

Nein. Der Artikel dient der Orientierung. Für die Einstufung konkreter Systeme, besonders im Personalbereich, sollten Sie Ihre Rechtsberatung oder Ihren Datenschutzbeauftragten einbeziehen.

Quellen

  1. Europäische Kommission: AI Act – Regulatory framework, Zeitplan und Risikostufen digital-strategy.ec.europa.eu
  2. Digital Omnibus on AI, Verordnung (EU) 2026/1744 (Text und Erwägungsgründe) artificialintelligenceact.eu
  3. AI Act, Artikel 3: Begriffsbestimmungen (Anbieter, Betreiber) artificialintelligenceact.eu
  4. AI Act, Artikel 26: Pflichten der Betreiber von Hochrisiko-KI-Systemen artificialintelligenceact.eu
  5. AI Act, Artikel 27: Grundrechte-Folgenabschätzung artificialintelligenceact.eu
  6. AI Act, Artikel 5: Verbotene Praktiken artificialintelligenceact.eu
  7. Cloud Security Alliance: EU AI Act High-Risk Deadline – Deferred, Not Cancelled labs.cloudsecurityalliance.org
  8. AI Act, Artikel 25: Verantwortlichkeiten entlang der KI-Wertschöpfungskette artificialintelligenceact.eu
  9. AI Act, Artikel 50: Transparenzpflichten artificialintelligenceact.eu
  10. AI Act, Artikel 99: Sanktionen artificialintelligenceact.eu
  11. AI Act, Anhang III: Hochrisiko-KI-Systeme artificialintelligenceact.eu
  12. Gibson Dunn: EU AI Act Omnibus Agreement – Postponed High-Risk Deadlines and Other Key Changes gibsondunn.com
  13. Otto Schmidt: Bundesrat billigt Gesetz zur KI-Aufsicht in Deutschland (13.07.2026) otto-schmidt.de