AI Act für Mittelstand: Was ist wirklich Pflicht?

Der AI Act (Verordnung (EU) 2024/1689) ist seit dem 1. August 2024 in Kraft und entfaltet seine Pflichten stufenweise bis 2028; die Fristen für Hochrisiko-KI hat der AI-Omnibus (in Kraft seit 27. Juli 2026) nach hinten verschoben. Für den deutschen Mittelstand ist die zentrale Frage selten: „Wir trainieren KI-Modelle, sind wir betroffen?", sondern fast immer: „Wir setzen ChatGPT, Copilot oder ein Tool mit eingebauter KI ein, was bedeutet das jetzt für uns?"

Dieser Artikel zerlegt den AI Act in die vier Bereiche, die KMU-Entscheider wirklich kennen müssen, und trennt die Pflichten, die heute gelten, von denen, die erst 2027/2028 greifen. Stand: 18.09.2026.

AI Act in 3 Sätzen

Die EU regelt KI nicht über Technologie, sondern über Anwendungsfälle. Ein neuronales Netz für die Bilderkennung im Lagerregal ist regulatorisch trivial; dasselbe Netz für die Bewertung von Bewerbungsfotos ist Hochrisiko. Wer KI nur einsetzt (Betreiber/deployer), trifft weniger Pflichten als wer KI entwickelt oder in Verkehr bringt (Anbieter/provider).

Risiko-Klassifizierung

Art. 5-7 sowie die Annexe definieren vier Klassen:

1. Verbotene KI-Praktiken (Art. 5): gilt seit 2. Februar 2025

Bestimmte Anwendungen sind in der EU vollständig untersagt:

• Social Scoring durch öffentliche wie private Stellen, das zu nachteiliger Behandlung in nicht-zusammenhängenden Kontexten oder zu unverhältnismäßigen Folgen führt (Art. 5 Abs. 1 lit. c)
• Untergrabungs-Techniken, die das Verhalten von Personen manipulieren und Schaden verursachen
• Ausnutzung von Vulnerabilität bestimmter Gruppen (Alter, Behinderung, sozioökonomische Lage)
• Biometrische Kategorisierung zur Ableitung sensibler Merkmale (Rasse, politische Meinung, sexuelle Orientierung)
• Echtzeit-biometrische Identifizierung im öffentlichen Raum durch Strafverfolgungsbehörden (mit eng begrenzten Ausnahmen)
• Predictive Policing allein auf Profilbasis
• Emotion-Recognition am Arbeitsplatz und in Bildungseinrichtungen (mit eng begrenzten Ausnahmen für medizinische/Sicherheits-Zwecke)
• Untargeted Scraping von Gesichtsbildern aus Internet/CCTV zum Aufbau von Erkennungs-Datenbanken
• Nudifizierungs-Anwendungen: KI-Systeme, die nicht einvernehmliche intime Inhalte oder Darstellungen sexuellen Kindesmissbrauchs erzeugen (durch den AI-Omnibus neu aufgenommen)

Was das für KMU bedeutet: Im typischen Mittelstand sind diese Praktiken ohnehin nicht im Einsatz. Relevant wird Art. 5 für HR-Tools, die Bewerbungsvideos auf „Emotionen" oder „Persönlichkeitsmerkmale" analysieren, solche Tools dürfen seit Februar 2025 in der EU nicht mehr für Personalentscheidungen genutzt werden, sofern sie unter Emotion-Recognition fallen.

2. Hochrisiko-Systeme (Annex III)

Hier liegt der eigentliche Compliance-Aufwand. Annex III listet acht Bereiche mit Hochrisiko-Klassifikation. Für KMU relevant sind primär:

• Biometrische Identifizierung (außerhalb Strafverfolgung)
• Kritische Infrastruktur (Verkehr, Strom, Gas, Wasser)
• Bildung und berufliche Ausbildung, KI zur Bewertung von Lernergebnissen oder Zugangsentscheidungen
• Beschäftigung und Personalmanagement, KI für Rekrutierung, Aufgabenzuweisung, Beförderung, Kündigung, Leistungsbewertung
• Zugang zu privaten und öffentlichen Diensten, Bonitätsbewertung natürlicher Personen, Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung, Notfalldienste-Priorisierung
• Strafverfolgung und Grenzkontrolle (für KMU meist irrelevant)
• Justizverwaltung und demokratische Prozesse

Pflichten für Anbieter von Hochrisiko-KI (Art. 16 mit den Anforderungen aus Art. 8–15):

• Risikomanagementsystem über den gesamten Lebenszyklus
• Daten-Governance (Qualität, Bias-Prüfung, Repräsentativität)
• Technische Dokumentation und Logging
• Transparenz gegenüber Betreibern und Endnutzern
• Menschliche Aufsicht (Human-in-the-Loop)
• Genauigkeit, Robustheit, Cybersicherheit
• Konformitätsbewertung (Art. 43) und CE-Kennzeichnung (Art. 48)
• Registrierung in der EU-Datenbank (Art. 49)

Pflichten für Betreiber von Hochrisiko-KI (Art. 26): deutlich schmaler. Im Kern:

• Bestimmungsgemäße Verwendung der KI laut Anbieter-Vorgaben
• Menschliche Aufsicht durch geschulte Personen
• Aufbewahrung der automatisch erzeugten Protokolle, soweit sie der Kontrolle des Betreibers unterliegen (mindestens 6 Monate, Art. 26 Abs. 6)
• Information der Beschäftigten und Arbeitnehmervertreter vor dem Einsatz im HR-Kontext (Art. 26 Abs. 7)
• Grundrechte-Folgenabschätzung (Art. 27) für öffentlich-rechtliche Einrichtungen, private Einrichtungen, die öffentliche Dienste erbringen, sowie Betreiber von KI zur Kreditwürdigkeitsprüfung und zur Risiko- und Preisbewertung in der Lebens- und Krankenversicherung (Anhang III Nr. 5 lit. b und c)

3. Begrenztes Risiko (Art. 50): Transparenz-Pflichten

Für KI-Systeme mit direkter Mensch-Interaktion:

• Chatbots müssen offenlegen, dass sie KI sind
• Synthetische Inhalte (Deepfakes, KI-Bilder/Videos) müssen als KI-generiert gekennzeichnet sein
• Emotion-Recognition und biometrische Kategorisierung im erlaubten Rahmen erfordern Information der Betroffenen

4. Minimales Risiko

Spam-Filter, KI in Videospielen, Lagerlogistik-KI etc., keine spezifischen AI-Act-Pflichten, aber freiwillige Codes of Conduct werden empfohlen.

GPAI-Pflichten: wen das wirklich trifft

GPAI = General-Purpose AI Models = große Foundation-Models (GPT-4/5, Claude, Gemini, Llama, Mistral usw.). Die Pflichten aus Art. 51-55 richten sich fast ausschließlich an die Modellanbieter:

• Technische Dokumentation des Modells
• Informationen für nachgelagerte Anbieter
• Urheberrechts-konforme Trainings-Datenpolitik
• Zusammenfassung der Trainingsdaten

Für GPAI mit systemischen Risiken (>10^25 FLOPs Training oder Designation durch die EU-Kommission) zusätzlich (Art. 55): Modellevaluationen, Bewertung und Minderung systemischer Risiken, Meldung schwerwiegender Vorfälle an das AI Office, Cybersicherheit.

Was bedeutet das für ein KMU, das ChatGPT Enterprise oder Microsoft Copilot einsetzt? Im Wesentlichen nichts Spezifisches aus den GPAI-Regeln. Die Pflicht liegt bei OpenAI / Microsoft / Anthropic / Google. Aber: Sobald das KMU mit dem Foundation-Model ein eigenes nachgelagertes System baut (z.B. einen Bewerber-Screening-Bot auf GPT-Basis), wird es selbst zum Anbieter eines KI-Systems im Sinne des AI Acts, und je nach Anwendungsfall potenziell Hochrisiko-Anbieter.

Zeitachse

Praxis für KMU: was jetzt zu tun ist (Stand: 18.09.2026)

Für einen mittelständischen Betrieb ohne spezielle KI-Entwicklung lässt sich die Pflichtenlage in fünf Punkten zusammenfassen:

1. KI-Inventar erstellen: Welche KI-Tools sind im Einsatz? (Microsoft Copilot, ChatGPT, eingebaute KI in CRM/HR-Tools, etc.), pro Tool: Anbieter, Anwendungsfall, betroffene Personen.
2. Risiko-Klassifikation prüfen: Fällt ein Anwendungsfall unter Art. 5 (verboten) oder Annex III (Hochrisiko)? Beispiele für versteckte Hochrisiko-Einsätze im Mittelstand: KI-gestütztes Bewerbungs-Screening, KI-Bonitätsbewertung von Privatkunden, KI-Leistungsbeurteilung im HR-Tool.
3. KI-Kompetenz (Art. 4): Seit 2. Februar 2025 müssen Anbieter und Betreiber Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals und anderer Personen zu fördern, die in ihrem Auftrag mit Betrieb und Nutzung von KI-Systemen befasst sind; der AI-Omnibus hat diese Pflicht vereinfacht. Format, Dauer und Turnus schreibt Art. 4 nicht vor, eine dokumentierte Schulung ist ein naheliegender Nachweis.
4. Transparenz-Pflichten umsetzen (Art. 50): wenn Kundenkommunikation über Chatbots läuft, Disclosure-Banner einbauen; bei KI-generierten Marketing-Inhalten, Kennzeichnung prüfen.
5. Hochrisiko-Anwendungen vorbereiten (Pflichten ab 2. Dezember 2027): wenn ein Hochrisiko-Anwendungsfall identifiziert wurde, Vertragsanpassungen mit dem Anbieter (Zugriff auf die Protokolle, Betriebsanleitung, Information des Betriebsrats etc.) frühzeitig einsteuern.

FAQ

Wir nutzen nur ChatGPT für interne Texte: sind wir AI-Act-pflichtig?

Im engen Sinne: nein. Als Betreiber eines Allzweck-Chatbots ohne Hochrisiko-Anwendung treffen Sie nur (a) die Pflichten aus Art. 5 (keine verbotenen Praktiken, bei reiner Textarbeit irrelevant), (b) die KI-Kompetenz-Pflicht aus Art. 4 (Maßnahmen zur Förderung der KI-Kompetenz der Beschäftigten) und (c) bei Kundeneinsatz die Transparenz-Pflicht aus Art. 50. Vertragliche Pflichten Ihres KI-Anbieters (z.B. OpenAI Enterprise) sollten Sie separat beachten.

Wenn unser HR-Tool eine KI-Funktion einbaut: werden wir automatisch Hochrisiko-Anbieter?

Nein. Sie bleiben Betreiber, der Anbieter des HR-Tools bleibt Anbieter. Sie haben aber als Betreiber eines Hochrisiko-KI-Systems im HR-Kontext spezifische Pflichten (Art. 26): menschliche Aufsicht durch geschultes Personal, Information der Beschäftigten und der Arbeitnehmervertreter, Aufbewahrung der automatisch erzeugten Protokolle, ggf. Grundrechte-Folgenabschätzung.

Ist eine ISO-42001-Zertifizierung Pflicht?

Nein. ISO/IEC 42001 (AI Management System) ist freiwillig. Eine Konformitätsvermutung begründen nach Art. 40 Abs. 1 nur harmonisierte Normen, deren Fundstellen im Amtsblatt der EU veröffentlicht sind; ISO/IEC 42001 gehört nicht dazu. Für Hochrisiko-Anbieter kann sie beim Aufbau des Qualitätsmanagements (Art. 17) helfen, ersetzt aber nicht die Konformitätsbewertung nach Art. 43.

Wie hoch sind die Bußgelder?

Art. 99 AI Act: Verstöße gegen Art. 5 (verbotene Praktiken) bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (jeweils höherer Betrag). Verstöße gegen andere Pflichten bis zu 15 Mio. € oder 3 %. Falsche Informationen an Behörden bis zu 7,5 Mio. € oder 1 %. Für KMU gilt jeweils der niedrigere Betrag, was in absoluten Zahlen aber immer noch signifikant ist.

Welche Behörde ist in Deutschland zuständig?

Seit 29. Juli 2026 gilt das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) (BGBl. 2026 I Nr. 223). Marktüberwachungsbehörde ist grundsätzlich die Bundesnetzagentur (§ 2 Abs. 1 KI-MIG). Sonderzuständigkeiten bestehen u.a. für die BaFin bei KI-Systemen im Zusammenhang mit regulierten Finanztätigkeiten (§ 2 Abs. 3), für die bestehenden Marktüberwachungsbehörden bei KI in Produkten (§ 2 Abs. 2) sowie für Landesbehörden bei öffentlichen Stellen der Länder und bei Mediendiensten.