AI Act für 30-Mitarbeiter-Firma: Was typischerweise zu prüfen ist

Welche regulatorische Grundlage greift?

Maßgeblich ist die Verordnung (EU) 2024/1689 (AI Act). Art. 3 AI Act definiert die zentralen Rollen:

Detail

• Anbieter / Provider: Wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Es greift der volle Pflichtenkatalog der Art. 9 ff. AI Act.
• Betreiber / Deployer: Wer ein KI-System unter eigener Verantwortung in beruflichem Kontext nutzt. Die Pflichten sind in Art. 26 AI Act geregelt und in der Regel weniger umfangreich als die Anbieterpflichten.

In der deutschen KMU-Landschaft ist der reine Deployer-Status verbreitet, bei einer Buchung von ChatGPT Enterprise, Microsoft 365 Copilot oder Gemini Workspace ohne eigene Modellentwicklung. Sofern jedoch ein vorhandenes Tool mit eigenen Daten substantiell fine-getunt und unter eigenem Namen Kunden angeboten wird, kann sich die Rollenzuordnung in Richtung Anbieter verschieben (Art. 25 AI Act zur Verantwortlichkeit entlang der Wertschöpfungskette). Eine fachliche Klärung sollte in solchen Konstellationen frühzeitig erfolgen.

Welche Konstellation passt zu deinem KI-Profil?

Der AI Act unterscheidet vier Risiko-Klassen (vgl. Erwägungsgründe 14 ff. und Art. 5, 6, 50 sowie Anhang III): verbotene Praktiken, Hochrisiko, begrenztes Risiko (Transparenz) und minimales Risiko.

Detail

Die folgenden Konstellationen sind in 30-MA-Firmen verbreitet:

• Generative KI für interne Texterstellung und Recherche (ChatGPT, Copilot, Claude, Gemini): wird regelmäßig der Kategorie „minimales Risiko" zugeordnet, sofern keine Hochrisiko-Anwendungsbereiche nach Anhang III berührt werden. Spezifische AI-Act-Pflichten sind in dieser Konstellation überschaubar.
• Chatbot auf der Website oder KI-erzeugte Inhalte für die Öffentlichkeit: berührt regelmäßig Art. 50 AI Act (Transparenzpflichten). Die konkrete Ausgestaltung des Hinweises hängt vom Einsatz-Kontext ab.
• HR-Recruiting-KI, Bonitätsscoring, biometrische Identifikation: regelmäßig als Hochrisiko nach Anhang III AI Act einzuordnen, vorbehaltlich der Ausnahmen in Art. 6 Abs. 3 AI Act. In diesen Fällen sind insbesondere Risikomanagement (Art. 9), Daten-Governance (Art. 10), technische Dokumentation (Art. 11), Logging (Art. 12), Transparenz (Art. 13), menschliche Aufsicht (Art. 14) und Konformitätsbewertung (Art. 43) zu prüfen.

Welcher Aufbau-Rahmen ist verbreitet?

In der KMU-Beratungspraxis hat sich ein dreistufiges Vorgehen etabliert. Ob dieses Vorgehen im konkreten Fall passt, ist im Einzelfall zu beurteilen.

Erster Baustein, KI-Inventar

Ein strukturiertes Verzeichnis der eingesetzten KI-Systeme (offizielle und Schatten-IT) bildet die Grundlage jeder Klassifizierung. Verbreitete Spalten: System, Zweck, Datenkategorien, Anbieter, Lizenz-Tier. Eine Verknüpfung mit dem Verarbeitungsverzeichnis nach Art. 30 DSGVO ist üblich.

Detail

Zweiter Baustein, Abgleich mit Art. 5 AI Act

Art. 5 AI Act listet die verbotenen Praktiken (u. a. manipulative Techniken mit erheblichem Schaden, Ausnutzen von Schwächen, Social Scoring durch Behörden-ähnliche Systeme, Emotionserkennung am Arbeitsplatz mit Ausnahmen, biometrische Kategorisierung sensibler Merkmale). Eine dokumentierte Negativ-Prüfung ist Teil der Audit-Vorbereitung.

Dritter Baustein, interne Nutzungsrichtlinie

Eine schriftliche Regelung zu freigegebenen Tools, erlaubten Datenkategorien und Eskalationswegen wird in der Praxis empfohlen. Eine direkte Vorgabe ergibt sich primär aus DSGVO Art. 24 (Rechenschaftspflicht) und Art. 32 (Datensicherheit); im AI-Act-Kontext ist sie Teil der dokumentierten Sorgfalt nach Art. 26 AI Act bei Deployer-Pflichten.

Zeitachse: Welche Pflichten gelten ab wann?

Der AI Act ist am 1. August 2024 in Kraft getreten (Art. 113) und gestaffelt anwendbar:

• Februar 2025: Verbote nach Art. 5 wirksam
• August 2025: GPAI-Pflichten (General Purpose AI Models) und Sanktionsregeln

Detail

• August 2026: Hauptpflichten für Hochrisiko-Systeme nach Anhang III
• August 2027: Hochrisiko-Systeme in regulierten Produkten (Anhang I)

Die Sanktionsrahmen sind in Art. 99 AI Act geregelt: bis zu 35 Mio. EUR oder 7 Prozent des weltweiten Jahresumsatzes bei Verstößen gegen Art. 5, bis zu 15 Mio. EUR oder 3 Prozent bei Hochrisiko- und Transparenzverstößen, bis zu 7,5 Mio. EUR oder 1 Prozent bei falschen Auskünften gegenüber Aufsichtsbehörden. Art. 99 Abs. 6 sieht für KMU eine verhältnismäßige Anpassung vor, die konkrete Bemessung erfolgt durch die zuständige Behörde.

Welche Konstellationen erfordern abweichendes Vorgehen?

In einer Reihe von Konstellationen reicht der pauschale Drei-Schritte-Rahmen nicht aus und es ist eine erweiterte fachliche Begleitung sinnvoll:

Detail

• Hochrisiko-Anwendungen nach Anhang III: HR-Auswahl, Credit-Scoring, biometrische Identifikation, kritische Infrastruktur, Bildungsbewertung, Strafverfolgung. Hier sind regelmäßig DPIA (DSGVO Art. 35), FRIA (AI Act Art. 27, sofern persönlicher Anwendungsbereich eröffnet), Logging und dokumentierte menschliche Aufsicht erforderlich.

• Anbieter-Konstellation durch substantielle Modifikation: Wer ein fremdes Modell wesentlich verändert oder unter eigenem Namen vermarktet, kann nach Art. 25 AI Act in die Anbieter-Rolle wechseln, mit deutlich erweiterten Pflichten.

• GPAI-Bezug bei Eigenentwicklungen: Sofern eigene Modelle trainiert werden, die als General-Purpose AI Models einzustufen sind, greifen die Pflichten der Art. 53 ff. AI Act.

• Branchenspezifika: Finanzdienstleister (BaFin-Aufsicht), Medizinprodukte-Hersteller (MDR/IVDR) oder kritische Infrastrukturen (BSI/NIS2) haben sektorale Zusatzpflichten, die parallel zum AI Act zu beachten sind.

• Konzern-Strukturen: Bei verbundenen Unternehmen ist die Rollenzuordnung im Konzern zu klären, Anbieter, Deployer und Importeur können in unterschiedlichen Konzerngesellschaften liegen.

In diesen Konstellationen ist eine pauschale Orientierungshilfe unzureichend. Eine Einzelfall-Prüfung durch Datenschutzbeauftragte, Compliance-Funktion oder anwaltliche Beratung wird typischerweise empfohlen.

Nächster Schritt

Eine erste Standort-Bestimmung liefert der AI-Act-Check, ohne Anspruch auf Vollständigkeit oder Verbindlichkeit.

Für eine vertiefte Pflichten-Übersicht: AI Act für den Mittelstand: Was wirklich Pflicht ist.