Was macht ein KI-System Hochrisiko nach AI Act?

Begriff: Was bedeutet "Hochrisiko" im AI Act?

Der AI Act unterscheidet KI nicht nach Technologie (Machine Learning vs. Rule-based), sondern nach Einsatzkontext. Das gleiche Modell — etwa eine Klassifikation auf Basis tabellarischer Daten — kann minimales Risiko sein, wenn es Marketing-Newsletter zuordnet, und Hochrisiko, wenn es über die Kreditvergabe für eine Privatperson entscheidet.

Detail

Diese kontextuelle Logik steht im AI Act Art. 6. Hochrisiko sind danach zwei Gruppen:

• Art. 6 Abs. 1: KI-Systeme, die als Sicherheitsbauteil eines Produkts dienen, das unter eine im AI Act Anhang I gelistete EU-Harmonisierungsvorschrift fällt (Maschinenrichtlinie, MDR, Spielzeugsicherheit, Aufzüge, Wasserfahrzeuge etc.) — und das Produkt erfordert eine Konformitätsbewertung durch eine notifizierte Stelle.
• Art. 6 Abs. 2 in Verbindung mit Anhang III: KI-Systeme in acht spezifischen Einsatzbereichen, unabhängig davon, ob sie Teil eines Produkts sind.

Praktisch heißt das: Ein KI-Modell für sich ist nicht "hochrisiko". Erst seine bestimmungsgemäße Verwendung macht es so. Der Provider muss die Verwendung definieren und dokumentieren — der Deployer hält sich an diesen Rahmen.

Die acht Hochrisiko-Bereiche aus Anhang III

Anhang III enumeriert die Hochrisiko-Anwendungsfälle abschließend. Jeder einzelne Bereich enthält weitere konkrete Unterkategorien:

1. Biometrie: biometrische Fernidentifizierung (außerhalb verbotener Echtzeit-Biometrie nach Art. 5), biometrische Kategorisierung nach sensiblen Attributen, Emotionserkennung.
2. Kritische Infrastruktur: Sicherheitsbauteile für Verkehr, Wasser-, Gas-, Wärme- und Stromversorgung sowie digitale Infrastruktur.
3. Bildung und Berufsausbildung: Zugangsentscheidungen, Bewertung von Lernergebnissen, Beurteilung des angemessenen Bildungsniveaus, Erkennung verbotenen Verhaltens während Prüfungen.
4. Beschäftigung, Personalverwaltung und Selbständige: Personalauswahl (Recruiting), Beförderungs- und Kündigungsentscheidungen, Arbeitszuteilung, Leistungs- und Verhaltensmonitoring.
5. Wesentliche private und öffentliche Dienste: Eingriffe in soziale Leistungen, Bonitätsbewertung (Credit Scoring) — mit Ausnahme der Betrugserkennung —, Risikobewertung in Lebens- und Krankenversicherungen, Priorisierung von Notrufen.
6. Strafverfolgung: Beurteilung der Verlässlichkeit von Beweismitteln, Risikoabschätzungen einer natürlichen Person als Täter oder Opfer, Profiling.
7. Migration, Asyl und Grenzkontrolle: Risikobewertung für Sicherheits-, illegale Migrations- oder Gesundheitsrisiken, Prüfung von Asyl- und Visumanträgen, biometrische Identifizierung.
8. Justiz und demokratische Prozesse: Unterstützung der Justizbehörden bei der Auslegung von Sachverhalten und Recht, KI in Wahlen und Wahlbeeinflussung.

Wer in einem dieser Bereiche operiert, prüft zuerst, ob die Anwendung tatsächlich unter die Detail-Definition fällt. Beispiel "Beschäftigung": Ein Bewerbermanagement-System, das nur Lebensläufe anonymisiert und zur Vorlage an Personaler aufbereitet, ist nicht zwingend Hochrisiko. Ein System, das Bewerber rankt oder vorfiltert, ist es.

Die Ausnahme nach Art. 6 Abs. 3

Hochrisiko-Klassifizierung greift nicht automatisch, nur weil ein System einem der acht Bereiche zugeordnet werden könnte. Art. 6 Abs. 3 AI Act gibt vier Ausnahmen:

• Das System führt eine eng begrenzte verfahrenstechnische Aufgabe aus.
• Es verbessert das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit.
• Es erkennt Muster oder Abweichungen in Entscheidungsprozessen, ohne diese zu ersetzen.
• Es bereitet eine Bewertung vor, die anschließend ohnehin durch einen Menschen erfolgt.

Der Anbieter muss die Ausnahme dokumentieren und der zuständigen Behörde auf Verlangen vorlegen. Profiling natürlicher Personen ist von der Ausnahme ausgeschlossen — wer profiliert, ist im Regelfall Hochrisiko.

Pflichten für Hochrisiko-Anbieter

Ist die Hochrisiko-Klassifizierung bestätigt, greifen die Anbieterpflichten aus Kapitel III Abschnitt 2 AI Act:

• Risikomanagement-System (Art. 9): kontinuierlich, iterativ, über den gesamten Lebenszyklus.
• Datengovernance (Art. 10): Trainings-, Validierungs- und Testdaten in hoher Qualität, mit Repräsentativität, ohne diskriminierende Verzerrungen.
• Technische Dokumentation (Art. 11, Anhang IV): vor Marktbringung erstellt, fortlaufend gepflegt.
• Aufzeichnungspflichten (Art. 12): Logging in einer Weise, die Nachvollziehbarkeit erlaubt — typische Aufbewahrungsfrist sechs Monate.
• Transparenz und Bereitstellung von Informationen (Art. 13): Bedienungsanleitung in Klartext, mit Hinweisen auf Genauigkeit, Robustheit, Cybersicherheit.
• Menschliche Aufsicht (Art. 14): das System ist so gestaltet, dass natürliche Personen effektiv überwachen können.
• Genauigkeit, Robustheit, Cybersicherheit (Art. 15): angemessenes Niveau, technische Sicherheitsmaßnahmen.

Hinzu kommen Konformitätsbewertung, CE-Kennzeichnung, Eintrag in die EU-Datenbank und Post-Market-Monitoring. Verstöße sind nach Art. 99 AI Act mit Bußgeldern bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes belegt.

Praxis: Wie KMU prüfen, ob ein System Hochrisiko ist

In dieser Reihenfolge:

1. KI-Inventar: Welche Systeme im Unternehmen treffen Vorschläge oder Entscheidungen, die natürliche Personen betreffen? Auch eingekaufte SaaS-Tools zählen — der Bewerber-Filter im HR-Tool ist KI im Sinne des Acts.
2. Anhang-III-Mapping: Jede Anwendung gegen die acht Bereiche prüfen. Bei Unsicherheit: Volltext der jeweiligen Sub-Definition im Anhang III lesen.
3. Ausnahme-Prüfung: Wenn ja zu Hochrisiko, dann durchgehen, ob eine der vier Ausnahmen nach Art. 6 Abs. 3 greift — und dokumentieren.
4. Rolle bestimmen: Bin ich Anbieter oder Betreiber? Bei eingekauften Systemen meist Betreiber — der Anbieter (Vendor) hat eigene Pflichten.
5. Pflichten-Lücke: Welche der Anbieter-/Betreiber-Pflichten sind heute schon erfüllt, welche fehlen?

Schritt 1-3 lassen sich intern leisten. Schritt 4-5 erfordern typischerweise externe Unterstützung — entweder durch eine spezialisierte Beratung oder durch ein Self-Service-Tool wie ComplyCheck.

FAQ

Ab wann gelten die Hochrisiko-Pflichten?

Die Hauptpflichten für Hochrisiko-Systeme nach Anhang III treten am 2. August 2026 in Kraft. Für KI als Sicherheitsbauteil in Produkten unter EU-Harmonisierungsvorschriften (Anhang I) gilt der 2. August 2027.

Detail

Verbote nach Art. 5 (manipulative Praktiken, Social Scoring) sind bereits ab dem 2. Februar 2025 wirksam. Die genaue Zeitachse steht in Art. 113 AI Act.

Muss ein bestehendes System nachträglich klassifiziert werden?

Ja. Wer ein KI-System vor dem Geltungsbeginn auf den Markt gebracht hat und nach dem 2. August 2026 wesentliche Änderungen vornimmt, fällt unter die volle Pflichtenlast. "Wesentlich" heißt im Sinn von Art. 3 Nr. 23 AI Act: jede Änderung, die nicht im ursprünglich vorgesehenen Verhalten enthalten war und das Risikoprofil verändert.

Wer ist die zuständige Behörde in Deutschland?

In Deutschland wird die Marktaufsicht voraussichtlich zwischen Bundesnetzagentur und sektoralen Behörden (BfDI, BSI, Bundesanstalt für Finanzdienstleistungsaufsicht) aufgeteilt. Die nationale Behördenstruktur ist Stand 2026-05-16 noch nicht final beschlossen. Das BMWK pflegt den aktuellen Stand.

Was ist der Unterschied zwischen Hochrisiko und unannehmbarem Risiko?

Unannehmbares Risiko (Art. 5) ist verboten — Social Scoring durch Behörden, manipulative KI, biometrische Echtzeit-Identifizierung im öffentlichen Raum mit eng begrenzten Ausnahmen. Hochrisiko ist erlaubt, aber streng reguliert. Wer Hochrisiko betreibt, kann das mit Konformitätsbewertung und laufender Pflichtenerfüllung tun. Wer eine verbotene Praktik betreibt, riskiert Bußgelder bis zu 35 Mio. € oder 7 % Konzernumsatz nach Art. 99 Abs. 3.