AI Act für Mittelstand: Was ist wirklich Pflicht?

Der AI Act (Verordnung (EU) 2024/1689) ist seit dem 1. August 2024 in Kraft und entfaltet seine Pflichten stufenweise bis 2027. Für den deutschen Mittelstand ist die zentrale Frage selten: „Wir trainieren KI-Modelle, sind wir betroffen?" — sondern fast immer: „Wir setzen ChatGPT, Copilot oder ein Tool mit eingebauter KI ein, was bedeutet das jetzt für uns?"

Dieser Artikel zerlegt den AI Act in die vier Bereiche, die KMU-Entscheider wirklich kennen müssen — und trennt die Pflichten, die heute gelten, von denen, die erst 2026/2027 greifen.

AI Act in 3 Sätzen

Die EU regelt KI nicht über Technologie, sondern über Anwendungsfälle. Ein neuronales Netz für die Bilderkennung im Lagerregal ist regulatorisch trivial; dasselbe Netz für die Bewertung von Bewerbungsfotos ist Hochrisiko. Wer KI nur einsetzt (Betreiber/deployer), trifft weniger Pflichten als wer KI entwickelt oder in Verkehr bringt (Anbieter/provider).

Risiko-Klassifizierung

Art. 5-7 sowie die Annexe definieren vier Klassen:

1. Verbotene KI-Praktiken (Art. 5) — gilt seit 2. Februar 2025

Bestimmte Anwendungen sind in der EU vollständig untersagt:

• Social Scoring durch öffentliche Stellen, das zu nachteiliger Behandlung in nicht-zusammenhängenden Kontexten führt
• Untergrabungs-Techniken, die das Verhalten von Personen manipulieren und Schaden verursachen
• Ausnutzung von Vulnerabilität bestimmter Gruppen (Alter, Behinderung, sozioökonomische Lage)
• Biometrische Kategorisierung zur Ableitung sensibler Merkmale (Rasse, politische Meinung, sexuelle Orientierung)
• Echtzeit-biometrische Identifizierung im öffentlichen Raum durch Strafverfolgungsbehörden (mit eng begrenzten Ausnahmen)
• Predictive Policing allein auf Profilbasis
• Emotion-Recognition am Arbeitsplatz und in Bildungseinrichtungen (mit eng begrenzten Ausnahmen für medizinische/Sicherheits-Zwecke)
• Untargeted Scraping von Gesichtsbildern aus Internet/CCTV zum Aufbau von Erkennungs-Datenbanken

Was das für KMU bedeutet: Im typischen Mittelstand sind diese Praktiken ohnehin nicht im Einsatz. Relevant wird Art. 5 für HR-Tools, die Bewerbungsvideos auf „Emotionen" oder „Persönlichkeitsmerkmale" analysieren — solche Tools dürfen seit Februar 2025 in der EU nicht mehr für Personalentscheidungen genutzt werden, sofern sie unter Emotion-Recognition fallen.

2. Hochrisiko-Systeme (Annex III)

Hier liegt der eigentliche Compliance-Aufwand. Annex III listet acht Bereiche mit Hochrisiko-Klassifikation. Für KMU relevant sind primär:

• Biometrische Identifizierung (außerhalb Strafverfolgung)
• Kritische Infrastruktur (Verkehr, Strom, Gas, Wasser)
• Bildung und berufliche Ausbildung — KI zur Bewertung von Lernergebnissen oder Zugangsentscheidungen
• Beschäftigung und Personalmanagement — KI für Rekrutierung, Aufgabenzuweisung, Beförderung, Kündigung, Leistungsbewertung
• Zugang zu privaten und öffentlichen Diensten — Bonitätsbewertung, Lebens- und Krankenversicherung, Notfalldienste-Priorisierung
• Strafverfolgung und Grenzkontrolle (für KMU meist irrelevant)
• Justizverwaltung und demokratische Prozesse

Pflichten für Anbieter von Hochrisiko-KI (Art. 8-15):

• Risikomanagementsystem über den gesamten Lebenszyklus
• Daten-Governance (Qualität, Bias-Prüfung, Repräsentativität)
• Technische Dokumentation und Logging
• Transparenz gegenüber Betreibern und Endnutzern
• Menschliche Aufsicht (Human-in-the-Loop)
• Genauigkeit, Robustheit, Cybersicherheit
• Konformitätsbewertung und CE-Kennzeichnung
• Registrierung in der EU-Hochrisiko-KI-Datenbank

Pflichten für Betreiber von Hochrisiko-KI (Art. 26): deutlich schmaler. Im Kern:

• Bestimmungsgemäße Verwendung der KI laut Anbieter-Vorgaben
• Menschliche Aufsicht durch geschulte Personen
• Logging der Outputs (mindestens 6 Monate)
• Information der Beschäftigten und Arbeitnehmervertreter vor dem Einsatz im HR-Kontext (Art. 26 Abs. 7)
• Grundrechte-Folgenabschätzung für bestimmte Sektoren (Banken, Versicherungen, öffentliche Stellen)

3. Begrenztes Risiko (Art. 50) — Transparenz-Pflichten

Für KI-Systeme mit direkter Mensch-Interaktion:

• Chatbots müssen offenlegen, dass sie KI sind
• Synthetische Inhalte (Deepfakes, KI-Bilder/Videos) müssen als KI-generiert gekennzeichnet sein
• Emotion-Recognition und biometrische Kategorisierung im erlaubten Rahmen erfordern Information der Betroffenen

4. Minimales Risiko

Spam-Filter, KI in Videospielen, Lagerlogistik-KI etc. — keine spezifischen AI-Act-Pflichten, aber freiwillige Codes of Conduct werden empfohlen.

GPAI-Pflichten — wen das wirklich trifft

GPAI = General-Purpose AI Models = große Foundation-Models (GPT-4/5, Claude, Gemini, Llama, Mistral usw.). Die Pflichten aus Art. 51-55 richten sich fast ausschließlich an die Modellanbieter:

• Technische Dokumentation des Modells
• Informationen für nachgelagerte Anbieter
• Urheberrechts-konforme Trainings-Datenpolitik
• Zusammenfassung der Trainingsdaten

Für GPAI mit systemischen Risiken (>10^25 FLOPs Training oder Designation durch die EU-Kommission) zusätzlich: Modellevaluationen, Cyber-Vorfall-Reporting, Cybersicherheit.

Was bedeutet das für ein KMU, das ChatGPT Enterprise oder Microsoft Copilot einsetzt? Im Wesentlichen nichts Spezifisches aus den GPAI-Regeln. Die Pflicht liegt bei OpenAI / Microsoft / Anthropic / Google. Aber: Sobald das KMU mit dem Foundation-Model ein eigenes nachgelagertes System baut (z.B. einen Bewerber-Screening-Bot auf GPT-Basis), wird es selbst zum Anbieter eines KI-Systems im Sinne des AI Acts — und je nach Anwendungsfall potenziell Hochrisiko-Anbieter.

Zeitachse

Praxis für KMU — was jetzt zu tun ist (Stand 2026)

Für einen mittelständischen Betrieb ohne spezielle KI-Entwicklung lässt sich die Pflichtenlage in fünf Punkten zusammenfassen:

1. KI-Inventar erstellen: Welche KI-Tools sind im Einsatz? (Microsoft Copilot, ChatGPT, eingebaute KI in CRM/HR-Tools, etc.) — pro Tool: Anbieter, Anwendungsfall, betroffene Personen.
2. Risiko-Klassifikation prüfen: Fällt ein Anwendungsfall unter Art. 5 (verboten) oder Annex III (Hochrisiko)? Beispiele für versteckte Hochrisiko-Einsätze im Mittelstand: KI-gestütztes Bewerbungs-Screening, KI-Bonitätsbewertung im B2B-Vertrieb, KI-Leistungsbeurteilung im HR-Tool.
3. KI-Kompetenz-Schulung (Art. 4): seit 2. Februar 2025 müssen Beschäftigte, die KI bedienen oder von KI-Outputs betroffen sind, ein Mindest-Verständnis haben. Pragmatisch: einmal jährlich eine 30-60-Minuten-Schulung mit dokumentierten Teilnehmerlisten.
4. Transparenz-Pflichten umsetzen (Art. 50): wenn Kundenkommunikation über Chatbots läuft — Disclosure-Banner einbauen; bei KI-generierten Marketing-Inhalten — Kennzeichnung prüfen.
5. Hochrisiko-Anwendungen vorbereiten (für Pflicht 2. August 2026): wenn ein Hochrisiko-Anwendungsfall identifiziert wurde, Vertragsanpassungen mit dem Anbieter (Logging-Pflichten, Information der Betriebsrats etc.) frühzeitig einsteuern.

FAQ

Wir nutzen nur ChatGPT für interne Texte — sind wir AI-Act-pflichtig?

Im engen Sinne: nein. Als Betreiber eines Allzweck-Chatbots ohne Hochrisiko-Anwendung treffen Sie nur (a) die Pflichten aus Art. 5 (keine verbotenen Praktiken — bei reiner Textarbeit irrelevant), (b) die KI-Kompetenz-Pflicht aus Art. 4 (kurze Schulung der Mitarbeiter) und (c) bei Kundeneinsatz die Transparenz-Pflicht aus Art. 50. Vertragliche Pflichten Ihres KI-Anbieters (z.B. OpenAI Enterprise) sollten Sie separat beachten.

Wenn unser HR-Tool eine KI-Funktion einbaut — werden wir automatisch Hochrisiko-Anbieter?

Nein. Sie bleiben Betreiber, der Anbieter des HR-Tools bleibt Anbieter. Sie haben aber als Betreiber eines Hochrisiko-KI-Systems im HR-Kontext spezifische Pflichten (Art. 26): menschliche Aufsicht durch geschultes Personal, Information der Beschäftigten und der Arbeitnehmervertreter, Logging der KI-Outputs, ggf. Grundrechte-Folgenabschätzung.

Ist eine ISO-42001-Zertifizierung Pflicht?

Nein. ISO/IEC 42001 (AI Management System) ist freiwillig, kann aber als Konformitätsnachweis für die organisationalen Pflichten herangezogen werden. Für Hochrisiko-Anbieter ist sie ein hilfreicher Baustein, ersetzt aber nicht die produkt-spezifische Konformitätsbewertung.

Wie hoch sind die Bußgelder?

Art. 99 AI Act: Verstöße gegen Art. 5 (verbotene Praktiken) bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (jeweils höherer Betrag). Verstöße gegen andere Pflichten bis zu 15 Mio. € oder 3 %. Falsche Informationen an Behörden bis zu 7,5 Mio. € oder 1 %. Für KMU gilt jeweils der niedrigere Betrag — was in absoluten Zahlen aber immer noch signifikant ist.

Welche Behörde ist in Deutschland zuständig?

Stand Mitte 2026 ist die Zuständigkeitsstruktur in Deutschland noch in Konkretisierung — diskutiert wird eine Aufteilung zwischen BNetzA (Marktüberwachung) und BSI (technische Aspekte). Sektorale Behörden (BaFin für KI im Finanzbereich, BfArM für Medizinprodukte) bleiben für ihre Branchen zuständig.