Was macht ein KI-System Hochrisiko nach AI Act?

Begriff: Was bedeutet "Hochrisiko" im AI Act?

Der AI Act unterscheidet KI nicht nach Technologie (Machine Learning vs. Rule-based), sondern nach Einsatzkontext. Das gleiche Modell, etwa eine Klassifikation auf Basis tabellarischer Daten, kann minimales Risiko sein, wenn es Marketing-Newsletter zuordnet, und Hochrisiko, wenn es über die Kreditvergabe für eine Privatperson entscheidet.

Diese kontextuelle Logik steht im AI Act Art. 6. Hochrisiko sind danach zwei Gruppen:

• Art. 6 Abs. 1: KI-Systeme, die als Sicherheitsbauteil eines Produkts dienen, das unter eine im AI Act Anhang I gelistete EU-Harmonisierungsvorschrift fällt (Maschinenrichtlinie, MDR, Spielzeugsicherheit, Aufzüge, Wasserfahrzeuge etc.), und das Produkt erfordert eine Konformitätsbewertung durch eine notifizierte Stelle.
• Art. 6 Abs. 2 in Verbindung mit Anhang III: KI-Systeme in acht spezifischen Einsatzbereichen, unabhängig davon, ob sie Teil eines Produkts sind.

Praktisch heißt das: Ein KI-Modell für sich ist nicht "hochrisiko". Erst seine bestimmungsgemäße Verwendung macht es so. Der Provider muss die Verwendung definieren und dokumentieren, der Deployer hält sich an diesen Rahmen.

Die acht Hochrisiko-Bereiche aus Anhang III

Anhang III enumeriert die Hochrisiko-Anwendungsfälle abschließend. Jeder einzelne Bereich enthält weitere konkrete Unterkategorien:

1. Biometrie: biometrische Fernidentifizierung (außerhalb verbotener Echtzeit-Biometrie nach Art. 5), biometrische Kategorisierung nach sensiblen Attributen, Emotionserkennung.
2. Kritische Infrastruktur: Sicherheitsbauteile für Verkehr, Wasser-, Gas-, Wärme- und Stromversorgung sowie digitale Infrastruktur.
3. Bildung und Berufsausbildung: Zugangsentscheidungen, Bewertung von Lernergebnissen, Beurteilung des angemessenen Bildungsniveaus, Erkennung verbotenen Verhaltens während Prüfungen.
4. Beschäftigung, Personalverwaltung und Selbständige: Personalauswahl (Recruiting), Beförderungs- und Kündigungsentscheidungen, Arbeitszuteilung, Leistungs- und Verhaltensmonitoring.
5. Wesentliche private und öffentliche Dienste: Eingriffe in soziale Leistungen, Bonitätsbewertung (Credit Scoring), mit Ausnahme der Betrugserkennung, Risikobewertung in Lebens- und Krankenversicherungen, Priorisierung von Notrufen.
6. Strafverfolgung: Beurteilung der Verlässlichkeit von Beweismitteln, Risikoabschätzungen einer natürlichen Person als Täter oder Opfer, Profiling.
7. Migration, Asyl und Grenzkontrolle: Risikobewertung für Sicherheits-, illegale Migrations- oder Gesundheitsrisiken, Prüfung von Asyl- und Visumanträgen, biometrische Identifizierung.
8. Justiz und demokratische Prozesse: Unterstützung der Justizbehörden bei der Auslegung von Sachverhalten und Recht, KI in Wahlen und Wahlbeeinflussung.

Wer in einem dieser Bereiche operiert, prüft zuerst, ob die Anwendung tatsächlich unter die Detail-Definition fällt. Beispiel "Beschäftigung": Ein Bewerbermanagement-System, das nur Lebensläufe anonymisiert und zur Vorlage an Personaler aufbereitet, ist nicht zwingend Hochrisiko. Ein System, das Bewerber rankt oder vorfiltert, ist es.

Die Ausnahme nach Art. 6 Abs. 3

Hochrisiko-Klassifizierung greift nicht automatisch, nur weil ein System einem der acht Bereiche zugeordnet werden könnte. Art. 6 Abs. 3 AI Act gibt vier Ausnahmen:

• Das System führt eine eng begrenzte verfahrenstechnische Aufgabe aus.
• Es verbessert das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit.
• Es erkennt Muster oder Abweichungen in Entscheidungsprozessen, ohne diese zu ersetzen.
• Es bereitet eine Bewertung vor, die anschließend ohnehin durch einen Menschen erfolgt.

Der Anbieter muss seine Einschätzung nach Art. 6 Abs. 4 vor dem Inverkehrbringen dokumentieren, das System nach Art. 49 Abs. 2 in der EU-Datenbank registrieren und die Dokumentation der zuständigen Behörde auf Verlangen vorlegen. Profiling natürlicher Personen ist von der Ausnahme ausgeschlossen: Ein System nach Anhang III, das Profiling vornimmt, gilt nach Art. 6 Abs. 3 UAbs. 3 stets als hochriskant.

Pflichten für Hochrisiko-Anbieter

Ist die Hochrisiko-Klassifizierung bestätigt, greifen die Anbieterpflichten aus Kapitel III Abschnitt 2 AI Act:

• Risikomanagement-System (Art. 9): kontinuierlich, iterativ, über den gesamten Lebenszyklus.
• Datengovernance (Art. 10): Trainings-, Validierungs- und Testdaten in hoher Qualität, mit Repräsentativität, ohne diskriminierende Verzerrungen.
• Technische Dokumentation (Art. 11, Anhang IV): vor Marktbringung erstellt, fortlaufend gepflegt.
• Aufzeichnungspflichten (Art. 12): automatische Protokollierung, die Nachvollziehbarkeit erlaubt. Die Aufbewahrung regeln Art. 19 Abs. 1 (Anbieter) und Art. 26 Abs. 6 (Betreiber): mindestens sechs Monate, sofern anderes Unionsrecht oder nationales Recht nichts anderes vorsieht.
• Transparenz und Bereitstellung von Informationen (Art. 13): Bedienungsanleitung in Klartext, mit Hinweisen auf Genauigkeit, Robustheit, Cybersicherheit.
• Menschliche Aufsicht (Art. 14): das System ist so gestaltet, dass natürliche Personen effektiv überwachen können.
• Genauigkeit, Robustheit, Cybersicherheit (Art. 15): angemessenes Niveau, technische Sicherheitsmaßnahmen.

Hinzu kommen Konformitätsbewertung, CE-Kennzeichnung, Eintrag in die EU-Datenbank und Post-Market-Monitoring. Verstöße sind nach Art. 99 AI Act mit Bußgeldern bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes belegt.

Praxis: Wie KMU prüfen, ob ein System Hochrisiko ist

In dieser Reihenfolge:

1. KI-Inventar: Welche Systeme im Unternehmen treffen Vorschläge oder Entscheidungen, die natürliche Personen betreffen? Auch eingekaufte SaaS-Tools zählen, der Bewerber-Filter im HR-Tool ist KI im Sinne des Acts.
2. Anhang-III-Mapping: Jede Anwendung gegen die acht Bereiche prüfen. Bei Unsicherheit: Volltext der jeweiligen Sub-Definition im Anhang III lesen.
3. Ausnahme-Prüfung: Wenn ja zu Hochrisiko, dann durchgehen, ob eine der vier Ausnahmen nach Art. 6 Abs. 3 greift, und dokumentieren.
4. Rolle bestimmen: Bin ich Anbieter oder Betreiber? Bei eingekauften Systemen meist Betreiber, der Anbieter (Vendor) hat eigene Pflichten.
5. Pflichten-Lücke: Welche der Anbieter-/Betreiber-Pflichten sind heute schon erfüllt, welche fehlen?

Schritt 1-3 lassen sich intern leisten. Schritt 4-5 erfordern typischerweise externe Unterstützung, entweder durch eine spezialisierte Beratung oder durch ein Self-Service-Tool wie ComplyCheck.

FAQ

Ab wann gelten die Hochrisiko-Pflichten?

Der Digital Omnibus on AI (VO (EU) 2026/1744, in Kraft seit 27.07.2026) hat die Termine verschoben: Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten ab dem 2. Dezember 2027. Für KI in Produkten unter EU-Harmonisierungsvorschriften (Anhang I) gilt der 2. August 2028. Stand: 18.09.2026.

Seit wann gelten die Verbote?

Verbote nach Art. 5 (manipulative Praktiken, Social Scoring) sind bereits ab dem 2. Februar 2025 wirksam. Die genaue Zeitachse steht in Art. 113 AI Act in der durch die VO (EU) 2026/1744 geänderten Fassung; eine Übersicht bietet die EU-Kommission.

Muss ein bestehendes System nachträglich klassifiziert werden?

Nicht in jedem Fall. Für Hochrisiko-Systeme, die vor dem Geltungsbeginn in Verkehr gebracht oder in Betrieb genommen wurden, gilt die Verordnung nach Art. 111 Abs. 2 nur, wenn sie ab diesem Zeitpunkt erheblichen Änderungen ihrer Konzeption unterliegen. Davon zu unterscheiden ist die „wesentliche Veränderung" nach Art. 3 Nr. 23 AI Act: eine Änderung nach dem Inverkehrbringen, die in der ursprünglichen Konformitätsbewertung nicht vorgesehen war und die Konformität mit den Anforderungen aus Kapitel III Abschnitt 2 beeinträchtigt oder die Zweckbestimmung ändert.

Wer ist die zuständige Behörde in Deutschland?

Das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) vom 22.07.2026 (BGBl. 2026 I Nr. 223), in Kraft seit 29.07.2026, benennt die Bundesnetzagentur als zentrale Marktüberwachungsbehörde (§ 2 Abs. 1). Für KI-Systeme im Zusammenhang mit regulierten Finanztätigkeiten ist die BaFin zuständig (§ 2 Abs. 3); für KI-Systeme im Zusammenhang mit Produkten nach Anhang I Abschnitt A sind die für diese Produkte bestimmten Marktüberwachungsbehörden zuständig (§ 2 Abs. 2). Stand: 18.09.2026.

Was ist der Unterschied zwischen Hochrisiko und unannehmbarem Risiko?

Unannehmbares Risiko (Art. 5) ist verboten, Social Scoring durch Behörden, manipulative KI, biometrische Echtzeit-Identifizierung im öffentlichen Raum mit eng begrenzten Ausnahmen. Hochrisiko ist erlaubt, aber streng reguliert: Der Anbieter braucht eine Konformitätsbewertung, Anbieter und Betreiber erfüllen laufend ihre jeweiligen Pflichten. Wer eine verbotene Praktik betreibt, riskiert Bußgelder bis zu 35 Mio. € oder 7 % Konzernumsatz nach Art. 99 Abs. 3.