AI Act für 30-Mitarbeiter-Firma: Was typischerweise zu prüfen ist

Welche regulatorische Grundlage greift?

Maßgeblich ist die Verordnung (EU) 2024/1689 (AI Act). Art. 3 AI Act definiert die zentralen Rollen:

• Anbieter / Provider: Wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3). Für Anbieter von Hochrisiko-KI-Systemen gelten die Anforderungen der Art. 8 bis 15 und die Pflichten nach Art. 16; Anbieter anderer KI-Systeme treffen vor allem Art. 4 und, je nach System, Art. 50.
• Betreiber / Deployer: Wer ein KI-System unter eigener Verantwortung in beruflichem Kontext nutzt. Für alle Betreiber gelten die KI-Kompetenz nach Art. 4 und, je nach Einsatz, die Transparenzpflichten nach Art. 50 Abs. 3 und 4. Wer ein Hochrisiko-KI-System betreibt, hat zusätzlich die Pflichten nach Art. 26 und in bestimmten Fällen die Grundrechte-Folgenabschätzung nach Art. 27. Insgesamt sind die Betreiberpflichten in der Regel weniger umfangreich als die Anbieterpflichten.

In der deutschen KMU-Landschaft ist der reine Deployer-Status verbreitet, bei einer Buchung von ChatGPT Enterprise, Microsoft 365 Copilot oder Gemini Workspace ohne eigene Modellentwicklung. Wird dagegen ein KI-System, etwa auf Basis eines fremden Modells, unter eigenem Namen oder eigener Marke Kunden angeboten, ist das Unternehmen nach Art. 3 Nr. 3 AI Act selbst Anbieter. Bei Hochrisiko-KI-Systemen regelt Art. 25 Abs. 1 AI Act zusätzlich, wann Betreiber oder Händler zum Anbieter werden (eigener Name, wesentliche Änderung, Änderung der Zweckbestimmung). Eine fachliche Klärung sollte in solchen Konstellationen frühzeitig erfolgen.

Welche Konstellation passt zu deinem KI-Profil?

Der AI Act unterscheidet vier Risiko-Klassen (vgl. Erwägungsgrund 26 und Art. 5, 6, 50 sowie Anhang III): verbotene Praktiken, Hochrisiko, begrenztes Risiko (Transparenz) und minimales Risiko.

Die folgenden Konstellationen sind in 30-MA-Firmen verbreitet:

• Generative KI für interne Texterstellung und Recherche (ChatGPT, Copilot, Claude, Gemini): wird regelmäßig der Kategorie „minimales Risiko" zugeordnet, sofern keine Hochrisiko-Anwendungsbereiche nach Anhang III berührt werden. Spezifische AI-Act-Pflichten sind in dieser Konstellation überschaubar; die KI-Kompetenz nach Art. 4 gilt aber auch hier.
• Chatbot auf der Website oder KI-erzeugte Inhalte für die Öffentlichkeit: berührt regelmäßig Art. 50 AI Act (Transparenzpflichten). Die konkrete Ausgestaltung des Hinweises hängt vom Einsatz-Kontext ab.
• HR-Recruiting-KI, Bonitätsscoring, biometrische Identifikation: regelmäßig als Hochrisiko nach Anhang III AI Act einzuordnen, vorbehaltlich der Ausnahmen in Art. 6 Abs. 3 AI Act. Risikomanagement (Art. 9), Daten-Governance (Art. 10), technische Dokumentation (Art. 11), Protokollierungsfunktion (Art. 12), Transparenz (Art. 13), menschliche Aufsicht (Art. 14) und Konformitätsbewertung (Art. 43) sind Pflichten des Anbieters. Ein Unternehmen, das ein solches System nur einsetzt, trifft als Betreiber Art. 26 (Verwendung gemäß Betriebsanleitung, menschliche Aufsicht, Relevanz der Eingabedaten, Überwachung, Aufbewahrung der automatisch erzeugten Protokolle, Information der Beschäftigten vor dem Einsatz am Arbeitsplatz) und in bestimmten Fällen Art. 27.

Welcher Aufbau-Rahmen ist verbreitet?

Ein pragmatischer Einstieg besteht aus drei Bausteinen, ergänzt um die KI-Kompetenz nach Art. 4. Ob dieses Vorgehen im konkreten Fall passt, ist im Einzelfall zu beurteilen.

Erster Baustein, KI-Inventar

Ein strukturiertes Verzeichnis der eingesetzten KI-Systeme (offizielle und Schatten-IT) bildet die Grundlage jeder Klassifizierung. Verbreitete Spalten: System, Zweck, Datenkategorien, Anbieter, Lizenz-Tier. Eine Verknüpfung mit dem Verarbeitungsverzeichnis nach Art. 30 DSGVO ist üblich.

Zweiter Baustein, Abgleich mit Art. 5 AI Act

Art. 5 AI Act listet die verbotenen Praktiken (u. a. manipulative Techniken mit erheblichem Schaden, Ausnutzen von Schwächen, Social Scoring, gleich ob durch öffentliche oder private Stellen, Emotionserkennung am Arbeitsplatz mit Ausnahmen, biometrische Kategorisierung sensibler Merkmale). Eine dokumentierte Negativ-Prüfung schreibt der AI Act Betreibern nicht vor; sie erleichtert aber den Nachweis gegenüber der Marktüberwachung.

Dritter Baustein, interne Nutzungsrichtlinie

Eine schriftliche Regelung zu freigegebenen Tools, erlaubten Datenkategorien und Eskalationswegen wird in der Praxis empfohlen. Eine direkte Vorgabe ergibt sich primär aus DSGVO Art. 24 (Rechenschaftspflicht) und Art. 32 (Datensicherheit); im AI-Act-Kontext kann sie Teil der Maßnahmen zur Förderung der KI-Kompetenz nach Art. 4 AI Act sein. Art. 26 AI Act gilt nur für Betreiber von Hochrisiko-KI-Systemen.

Ergänzung, KI-Kompetenz nach Art. 4

Seit dem 2. Februar 2025 müssen Anbieter und Betreiber Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern, abgestimmt auf technische Kenntnisse, Erfahrung, Ausbildung und Einsatzkontext. Seit dem Digital Omnibus (VO (EU) 2026/1744, in Kraft seit 27.07.2026) ist das eine Förderpflicht; ein bestimmtes Kompetenzniveau einzelner Personen muss nicht garantiert werden.

Zeitachse: Welche Pflichten gelten ab wann?

Der AI Act ist am 1. August 2024 in Kraft getreten (Art. 113) und gestaffelt anwendbar:

• Februar 2025: Verbote nach Art. 5 wirksam
• August 2025: GPAI-Pflichten (General Purpose AI Models) und Sanktionsregeln

• 2. August 2026: Transparenzpflichten nach Art. 50
• 2. Dezember 2027: Pflichten für Hochrisiko-Systeme nach Anhang III (verschoben durch den Digital Omnibus, VO (EU) 2026/1744, in Kraft seit 27.07.2026)
• 2. August 2028: Hochrisiko-Systeme in regulierten Produkten (Anhang I)

Die Sanktionsrahmen sind in Art. 99 AI Act geregelt: bis zu 35 Mio. EUR oder 7 Prozent des weltweiten Jahresumsatzes bei Verstößen gegen Art. 5, bis zu 15 Mio. EUR oder 3 Prozent bei Hochrisiko- und Transparenzverstößen, bis zu 7,5 Mio. EUR oder 1 Prozent bei falschen Auskünften gegenüber Aufsichtsbehörden. Nach Art. 99 Abs. 6 gilt für KMU jeweils der niedrigere Betrag aus Prozentsatz und Festbetrag.

Welche Konstellationen erfordern abweichendes Vorgehen?

In einer Reihe von Konstellationen reicht der pauschale Drei-Schritte-Rahmen nicht aus und es ist eine erweiterte fachliche Begleitung sinnvoll:

• Hochrisiko-Anwendungen nach Anhang III: HR-Auswahl, Credit-Scoring, biometrische Identifikation, kritische Infrastruktur, Bildungsbewertung, Strafverfolgung. Hier sind regelmäßig DPIA (DSGVO Art. 35), FRIA (AI Act Art. 27, sofern persönlicher Anwendungsbereich eröffnet), Logging und dokumentierte menschliche Aufsicht erforderlich.

• Anbieter-Konstellation durch eigenen Namen oder wesentliche Änderung: Wer ein Hochrisiko-KI-System unter eigenem Namen oder eigener Marke vertreibt, es wesentlich verändert oder die Zweckbestimmung eines KI-Systems so ändert, dass es zum Hochrisiko-System wird, gilt nach Art. 25 Abs. 1 AI Act als Anbieter, mit deutlich erweiterten Pflichten.

• GPAI-Bezug bei Eigenentwicklungen: Sofern eigene Modelle trainiert werden, die als General-Purpose AI Models einzustufen sind, greifen die Pflichten der Art. 53 ff. AI Act.

• Branchenspezifika: Finanzdienstleister (BaFin-Aufsicht), Medizinprodukte-Hersteller (MDR/IVDR) oder kritische Infrastrukturen (BSI/NIS2) haben sektorale Zusatzpflichten, die parallel zum AI Act zu beachten sind.

• Konzern-Strukturen: Bei verbundenen Unternehmen ist die Rollenzuordnung im Konzern zu klären, Anbieter, Deployer und Importeur können in unterschiedlichen Konzerngesellschaften liegen.

In diesen Konstellationen ist eine pauschale Orientierungshilfe unzureichend. Eine Einzelfall-Prüfung durch Datenschutzbeauftragte, Compliance-Funktion oder anwaltliche Beratung wird typischerweise empfohlen.

Nächster Schritt

Eine erste Standort-Bestimmung liefert der AI-Act-Check, ohne Anspruch auf Vollständigkeit oder Verbindlichkeit.

Für eine vertiefte Pflichten-Übersicht: AI Act für den Mittelstand: Was wirklich Pflicht ist.