AI Act für Mittelstand: Was ist wirklich Pflicht?

Der AI Act (Verordnung (EU) 2024/1689) ist seit dem 1. August 2024 in Kraft und entfaltet seine Pflichten stufenweise bis 2027. Für den deutschen Mittelstand ist die zentrale Frage selten: „Wir trainieren KI-Modelle, sind wir betroffen?", sondern fast immer: „Wir setzen ChatGPT, Copilot oder ein Tool mit eingebauter KI ein, was bedeutet das jetzt für uns?"

Dieser Artikel zerlegt den AI Act in die vier Bereiche, die KMU-Entscheider wirklich kennen müssen, und trennt die Pflichten, die heute gelten, von denen, die erst 2026/2027 greifen.

AI Act in 3 Sätzen

Die EU regelt KI nicht über Technologie, sondern über Anwendungsfälle. Ein neuronales Netz für die Bilderkennung im Lagerregal ist regulatorisch trivial; dasselbe Netz für die Bewertung von Bewerbungsfotos ist Hochrisiko. Wer KI nur einsetzt (Betreiber/deployer), trifft weniger Pflichten als wer KI entwickelt oder in Verkehr bringt (Anbieter/provider).

Risiko-Klassifizierung

Art. 5-7 sowie die Annexe definieren vier Klassen:

1. Verbotene KI-Praktiken (Art. 5): gilt seit 2. Februar 2025

Bestimmte Anwendungen sind in der EU vollständig untersagt:

• Social Scoring durch öffentliche Stellen, das zu nachteiliger Behandlung in nicht-zusammenhängenden Kontexten führt
• Untergrabungs-Techniken, die das Verhalten von Personen manipulieren und Schaden verursachen
• Ausnutzung von Vulnerabilität bestimmter Gruppen (Alter, Behinderung, sozioökonomische Lage)
• Biometrische Kategorisierung zur Ableitung sensibler Merkmale (Rasse, politische Meinung, sexuelle Orientierung)
• Echtzeit-biometrische Identifizierung im öffentlichen Raum durch Strafverfolgungsbehörden (mit eng begrenzten Ausnahmen)
• Predictive Policing allein auf Profilbasis
• Emotion-Recognition am Arbeitsplatz und in Bildungseinrichtungen (mit eng begrenzten Ausnahmen für medizinische/Sicherheits-Zwecke)
• Untargeted Scraping von Gesichtsbildern aus Internet/CCTV zum Aufbau von Erkennungs-Datenbanken

Was das für KMU bedeutet: Im typischen Mittelstand sind diese Praktiken ohnehin nicht im Einsatz. Relevant wird Art. 5 für HR-Tools, die Bewerbungsvideos auf „Emotionen" oder „Persönlichkeitsmerkmale" analysieren, solche Tools dürfen seit Februar 2025 in der EU nicht mehr für Personalentscheidungen genutzt werden, sofern sie unter Emotion-Recognition fallen.

2. Hochrisiko-Systeme (Annex III)

Hier liegt der eigentliche Compliance-Aufwand. Annex III listet acht Bereiche mit Hochrisiko-Klassifikation. Für KMU relevant sind primär:

• Biometrische Identifizierung (außerhalb Strafverfolgung)
• Kritische Infrastruktur (Verkehr, Strom, Gas, Wasser)
• Bildung und berufliche Ausbildung, KI zur Bewertung von Lernergebnissen oder Zugangsentscheidungen
• Beschäftigung und Personalmanagement, KI für Rekrutierung, Aufgabenzuweisung, Beförderung, Kündigung, Leistungsbewertung
• Zugang zu privaten und öffentlichen Diensten, Bonitätsbewertung, Lebens- und Krankenversicherung, Notfalldienste-Priorisierung
• Strafverfolgung und Grenzkontrolle (für KMU meist irrelevant)
• Justizverwaltung und demokratische Prozesse

Pflichten für Anbieter von Hochrisiko-KI (Art. 8-15):

• Risikomanagementsystem über den gesamten Lebenszyklus
• Daten-Governance (Qualität, Bias-Prüfung, Repräsentativität)
• Technische Dokumentation und Logging
• Transparenz gegenüber Betreibern und Endnutzern
• Menschliche Aufsicht (Human-in-the-Loop)
• Genauigkeit, Robustheit, Cybersicherheit
• Konformitätsbewertung und CE-Kennzeichnung
• Registrierung in der EU-Hochrisiko-KI-Datenbank

Pflichten für Betreiber von Hochrisiko-KI (Art. 26): deutlich schmaler. Im Kern:

• Bestimmungsgemäße Verwendung der KI laut Anbieter-Vorgaben
• Menschliche Aufsicht durch geschulte Personen
• Logging der Outputs (mindestens 6 Monate)
• Information der Beschäftigten und Arbeitnehmervertreter vor dem Einsatz im HR-Kontext (Art. 26 Abs. 7)
• Grundrechte-Folgenabschätzung für bestimmte Sektoren (Banken, Versicherungen, öffentliche Stellen)

3. Begrenztes Risiko (Art. 50): Transparenz-Pflichten

Für KI-Systeme mit direkter Mensch-Interaktion:

• Chatbots müssen offenlegen, dass sie KI sind
• Synthetische Inhalte (Deepfakes, KI-Bilder/Videos) müssen als KI-generiert gekennzeichnet sein
• Emotion-Recognition und biometrische Kategorisierung im erlaubten Rahmen erfordern Information der Betroffenen

4. Minimales Risiko

Spam-Filter, KI in Videospielen, Lagerlogistik-KI etc., keine spezifischen AI-Act-Pflichten, aber freiwillige Codes of Conduct werden empfohlen.

GPAI-Pflichten: wen das wirklich trifft

GPAI = General-Purpose AI Models = große Foundation-Models (GPT-4/5, Claude, Gemini, Llama, Mistral usw.). Die Pflichten aus Art. 51-55 richten sich fast ausschließlich an die Modellanbieter:

• Technische Dokumentation des Modells
• Informationen für nachgelagerte Anbieter
• Urheberrechts-konforme Trainings-Datenpolitik
• Zusammenfassung der Trainingsdaten

Für GPAI mit systemischen Risiken (>10^25 FLOPs Training oder Designation durch die EU-Kommission) zusätzlich: Modellevaluationen, Cyber-Vorfall-Reporting, Cybersicherheit.

Was bedeutet das für ein KMU, das ChatGPT Enterprise oder Microsoft Copilot einsetzt? Im Wesentlichen nichts Spezifisches aus den GPAI-Regeln. Die Pflicht liegt bei OpenAI / Microsoft / Anthropic / Google. Aber: Sobald das KMU mit dem Foundation-Model ein eigenes nachgelagertes System baut (z.B. einen Bewerber-Screening-Bot auf GPT-Basis), wird es selbst zum Anbieter eines KI-Systems im Sinne des AI Acts, und je nach Anwendungsfall potenziell Hochrisiko-Anbieter.

Zeitachse

Praxis für KMU: was jetzt zu tun ist (Stand 2026)

Für einen mittelständischen Betrieb ohne spezielle KI-Entwicklung lässt sich die Pflichtenlage in fünf Punkten zusammenfassen:

1. KI-Inventar erstellen: Welche KI-Tools sind im Einsatz? (Microsoft Copilot, ChatGPT, eingebaute KI in CRM/HR-Tools, etc.), pro Tool: Anbieter, Anwendungsfall, betroffene Personen.
2. Risiko-Klassifikation prüfen: Fällt ein Anwendungsfall unter Art. 5 (verboten) oder Annex III (Hochrisiko)? Beispiele für versteckte Hochrisiko-Einsätze im Mittelstand: KI-gestütztes Bewerbungs-Screening, KI-Bonitätsbewertung im B2B-Vertrieb, KI-Leistungsbeurteilung im HR-Tool.
3. KI-Kompetenz-Schulung (Art. 4): seit 2. Februar 2025 müssen Beschäftigte, die KI bedienen oder von KI-Outputs betroffen sind, ein Mindest-Verständnis haben. Pragmatisch: einmal jährlich eine 30-60-Minuten-Schulung mit dokumentierten Teilnehmerlisten.
4. Transparenz-Pflichten umsetzen (Art. 50): wenn Kundenkommunikation über Chatbots läuft, Disclosure-Banner einbauen; bei KI-generierten Marketing-Inhalten, Kennzeichnung prüfen.
5. Hochrisiko-Anwendungen vorbereiten (für Pflicht 2. August 2026): wenn ein Hochrisiko-Anwendungsfall identifiziert wurde, Vertragsanpassungen mit dem Anbieter (Logging-Pflichten, Information der Betriebsrats etc.) frühzeitig einsteuern.

FAQ

Wir nutzen nur ChatGPT für interne Texte: sind wir AI-Act-pflichtig?

Im engen Sinne: nein. Als Betreiber eines Allzweck-Chatbots ohne Hochrisiko-Anwendung treffen Sie nur (a) die Pflichten aus Art. 5 (keine verbotenen Praktiken, bei reiner Textarbeit irrelevant), (b) die KI-Kompetenz-Pflicht aus Art. 4 (kurze Schulung der Mitarbeiter) und (c) bei Kundeneinsatz die Transparenz-Pflicht aus Art. 50. Vertragliche Pflichten Ihres KI-Anbieters (z.B. OpenAI Enterprise) sollten Sie separat beachten.

Wenn unser HR-Tool eine KI-Funktion einbaut: werden wir automatisch Hochrisiko-Anbieter?

Nein. Sie bleiben Betreiber, der Anbieter des HR-Tools bleibt Anbieter. Sie haben aber als Betreiber eines Hochrisiko-KI-Systems im HR-Kontext spezifische Pflichten (Art. 26): menschliche Aufsicht durch geschultes Personal, Information der Beschäftigten und der Arbeitnehmervertreter, Logging der KI-Outputs, ggf. Grundrechte-Folgenabschätzung.

Ist eine ISO-42001-Zertifizierung Pflicht?

Nein. ISO/IEC 42001 (AI Management System) ist freiwillig, kann aber als Konformitätsnachweis für die organisationalen Pflichten herangezogen werden. Für Hochrisiko-Anbieter ist sie ein hilfreicher Baustein, ersetzt aber nicht die produkt-spezifische Konformitätsbewertung.

Wie hoch sind die Bußgelder?

Art. 99 AI Act: Verstöße gegen Art. 5 (verbotene Praktiken) bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (jeweils höherer Betrag). Verstöße gegen andere Pflichten bis zu 15 Mio. € oder 3 %. Falsche Informationen an Behörden bis zu 7,5 Mio. € oder 1 %. Für KMU gilt jeweils der niedrigere Betrag, was in absoluten Zahlen aber immer noch signifikant ist.

Welche Behörde ist in Deutschland zuständig?

Stand Mitte 2026 ist die Zuständigkeitsstruktur in Deutschland noch in Konkretisierung, diskutiert wird eine Aufteilung zwischen BNetzA (Marktüberwachung) und BSI (technische Aspekte). Sektorale Behörden (BaFin für KI im Finanzbereich, BfArM für Medizinprodukte) bleiben für ihre Branchen zuständig.