Konformitätsbewertung + CE-Kennzeichnung für KI-Systeme

Begriff: Konformitätsbewertung im AI Act

Die Konformitätsbewertung ist das formelle Verfahren, mit dem ein Anbieter nachweist, dass sein Hochrisiko-KI-System die Anforderungen aus Kapitel III Abschnitt 2 AI Act erfüllt, Risikomanagement, Datenqualität, technische Dokumentation, Transparenz, menschliche Aufsicht, Genauigkeit und Robustheit, Cybersicherheit. Sie ist Eintrittsbedingung für den Marktzugang.

Der AI Act folgt dem klassischen Produktsicherheitsmodell der EU. Wer eine Maschine, ein Medizinprodukt oder eine Funkanlage in Verkehr bringt, kennt das Muster bereits: Anforderungen werden in harmonisierten Normen konkretisiert, der Hersteller dokumentiert die Erfüllung, eine notifizierte Stelle prüft (bei kritischen Produkten) oder der Hersteller bestätigt es selbst (bei weniger kritischen).

Für KI-Systeme bedeutet das: Wendet ein Anbieter eine harmonisierte Norm an, deren Fundstelle im Amtsblatt der EU veröffentlicht ist, gilt für die davon abgedeckten Anforderungen die Vermutung der Konformität (Art. 40 Abs. 1). Ob zu einer Anforderung bereits eine solche Norm veröffentlicht ist, ist vor der Planung des Bewertungsverfahrens zu prüfen, denn davon hängt bei biometrischen Systemen auch ab, ob eine notifizierte Stelle einzubinden ist.

Anhang VI: Interne Kontrolle

Die interne Kontrolle nach Anhang VI AI Act ist für Hochrisiko-Systeme nach Anhang III Nr. 2 bis 8 das vorgeschriebene Verfahren (Art. 43 Abs. 2 AI Act). Sie umfasst:

• Qualitätsmanagement-System: Der Anbieter prüft, ob sein QM-System den Anforderungen des Art. 17 AI Act entspricht (Anhang VI Nr. 2).
• Technische Dokumentation: Der Anbieter prüft anhand der technischen Dokumentation nach Anhang IV, ob das System die Anforderungen aus Kapitel III Abschnitt 2 erfüllt (Anhang VI Nr. 3).
• Entwicklung und Marktbeobachtung: Der Anbieter prüft, ob Entwurfs- und Entwicklungsprozess sowie die Beobachtung nach dem Inverkehrbringen (Art. 72) mit der technischen Dokumentation übereinstimmen (Anhang VI Nr. 4).
• EU-Konformitätserklärung: Im Anschluss stellt der Anbieter die EU-Konformitätserklärung nach Art. 47 und Anhang V aus.

Eine notifizierte Stelle ist nicht beteiligt. Mit der EU-Konformitätserklärung übernimmt der Anbieter die Verantwortung für die Erfüllung der Anforderungen (Art. 47 Abs. 4). Die Erklärung hält er zehn Jahre für die zuständigen Behörden bereit (Art. 47 Abs. 1); auf Anfrage muss er die Konformität gegenüber der Marktüberwachung belegen können.

Anhang VII: Bewertung mit notifizierter Stelle

Unter den Anhang-III-Systemen kommt eine Drittstellenbewertung nach Anhang VII nur bei biometrischen Hochrisiko-Systemen nach Anhang III Nr. 1 in Betracht (Art. 43 Abs. 1 AI Act):

• Hat der Anbieter harmonisierte Normen oder gemeinsame Spezifikationen angewandt, wählt er zwischen interner Kontrolle (Anhang VI) und dem Verfahren mit notifizierter Stelle (Anhang VII).
• Verpflichtend ist Anhang VII, wenn harmonisierte Normen nicht existieren und keine gemeinsamen Spezifikationen verfügbar sind, wenn der Anbieter die Normen nicht oder nur teilweise angewandt hat, wenn verfügbare gemeinsame Spezifikationen nicht angewandt wurden oder wenn Normen mit Einschränkung veröffentlicht wurden, und zwar nur für den eingeschränkten Teil.
• Für Systeme, die von Strafverfolgungs-, Einwanderungs- oder Asylbehörden sowie Organen der Union eingesetzt werden sollen, handelt die Marktüberwachungsbehörde als notifizierte Stelle.

Das Verfahren umfasst eine Prüfung des QM-Systems und der technischen Dokumentation durch eine notifizierte Stelle. Die notifizierte Stelle stellt nach erfolgreicher Prüfung eine Unionsbescheinigung über die Bewertung der technischen Dokumentation aus (Anhang VII Nr. 4). Im Anhang-VII-Verfahren ist diese Bescheinigung Voraussetzung für die CE-Kennzeichnung; der CE-Kennzeichnung folgt dann die Kennnummer der notifizierten Stelle (Art. 48 Abs. 4).

Notifizierte Stellen müssen für den AI Act von einer notifizierenden Behörde benannt werden, vergleichbar mit notifizierten Stellen für MDR oder Maschinenrichtlinie. In Deutschland regelt das § 3 des KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG): Für biometrische Systeme nach Anhang III Nr. 1 ist notifizierende Behörde die nach Art. 52 Abs. 2 des Cyber Resilience Act zu benennende Marktüberwachungsbehörde, bis zu deren Benennung das BSI; für KI in Produkten nach Anhang I Abschnitt A sind es die nach dem jeweiligen Produktrecht zuständigen notifizierenden Behörden.

CE-Kennzeichnung und EU-Konformitätserklärung

Nach erfolgreicher Konformitätsbewertung bringt der Anbieter die CE-Kennzeichnung sichtbar, lesbar und dauerhaft an; ist das nach Art des Systems nicht möglich, auf der Verpackung oder den Begleitunterlagen (Art. 48 Abs. 3). Für digital bereitgestellte Systeme ist eine digitale CE-Kennzeichnung zu verwenden, die über die Schnittstelle, über die das System aufgerufen wird, oder über einen maschinenlesbaren Code leicht zugänglich ist (Art. 48 Abs. 2).

Die EU-Konformitätserklärung nach Anhang V enthält:

• Name und Anschrift des Anbieters bzw. seines Bevollmächtigten.
• Name und Typ des KI-Systems sowie jede weitere eindeutige Referenz zu seiner Identifizierung.
• Erklärung, dass der Anbieter die alleinige Verantwortung für die Ausstellung trägt, und dass das System mit dem AI Act konform ist; bei Verarbeitung personenbezogener Daten auch mit der DSGVO.
• Verweise auf die angewandten harmonisierten Normen oder gemeinsamen Spezifikationen.
• Bei Anhang VII: Angaben zur notifizierten Stelle und Bescheinigungsnummer.
• Datum und Unterschrift einer für den Anbieter zeichnungsberechtigten Person.

Die Erklärung wird der Marktaufsicht auf Anfrage übermittelt und für zehn Jahre nach Inverkehrbringen aufbewahrt.

EU-Datenbank für Hochrisiko-KI

Vor Inverkehrbringen registriert der Anbieter sich und das System in der EU-Datenbank für Hochrisiko-KI (Pflicht aus Art. 49 Abs. 1, Datenbank nach Art. 71 AI Act). Das gilt für Hochrisiko-Systeme nach Anhang III mit Ausnahme von Nr. 2. Die Datenbank wird von der Kommission betrieben und ist teilweise öffentlich einsehbar.

Eintrag enthält unter anderem:

• Name, Anschrift und Kontaktdaten des Anbieters (ggf. des Bevollmächtigten).
• Handelsname des KI-Systems und eindeutige Referenz zur Rückverfolgbarkeit.
• Beschreibung der Zweckbestimmung sowie eine kurze Beschreibung der verwendeten Informationen und der Funktionslogik.
• Status des Systems (in Verkehr, nicht mehr in Verkehr, zurückgerufen) und gegebenenfalls Angaben zur Bescheinigung der notifizierten Stelle.
• Kopie der EU-Konformitätserklärung und elektronische Betriebsanleitung; die Angaben sind aktuell zu halten (Anhang VIII Abschnitt A).

Betreiber, die Behörden, Einrichtungen oder sonstige Stellen der Union sind oder in deren Namen handeln, registrieren vor der Inbetriebnahme eines Hochrisiko-Systems nach Anhang III (außer Nr. 2) ebenfalls die Nutzung in der Datenbank (Art. 49 Abs. 3 AI Act). Einträge aus Strafverfolgung, Migration, Asyl und Grenzkontrolle stehen in einem sicheren, nicht öffentlichen Teil der Datenbank (Art. 49 Abs. 4).

Post-Market-Monitoring und wesentliche Änderungen

Nach Inverkehrbringen ist die Arbeit nicht beendet. Art. 72 AI Act verlangt Post-Market-Monitoring:

• Beobachtung der Leistung des Systems im realen Betrieb.
• Sammlung von Vorfallsdaten und Beschwerden.
• Bewertung der fortlaufenden Konformität mit allen Anforderungen.
• Korrekturmaßnahmen bei festgestellten Abweichungen.

Bei wesentlichen Änderungen (Art. 3 Nr. 23 AI Act), also Änderungen, die in der ursprünglichen Konformitätsbewertung nicht vorgesehen oder geplant waren und die Erfüllung der Anforderungen aus Kapitel III Abschnitt 2 beeinträchtigen oder die Zweckbestimmung ändern, ist eine erneute Konformitätsbewertung erforderlich (Art. 43 Abs. 4). Bei weiterlernenden Systemen sind Änderungen, die der Anbieter bei der ursprünglichen Bewertung vorab festgelegt und in der technischen Dokumentation (Anhang IV Nr. 2 lit. f) beschrieben hat, keine wesentliche Änderung.

Schwerwiegende Vorfälle (Art. 73) müssen innerhalb von 15 Tagen (bei Tod einer Person: 10 Tage; bei weitreichenden Verstößen oder Vorfällen kritischer Infrastruktur: 2 Tage) gemeldet werden, und zwar an die Marktüberwachungsbehörden des Mitgliedstaats, in dem der Vorfall eingetreten ist (Art. 73 Abs. 1 AI Act).

Praxis: Was Anbieter konkret vorbereiten sollten

Vollständige Checkliste:

1. Klassifizierung bestätigen: Ist das System Hochrisiko nach Art. 6? Anhang III? Anhang I?
2. Bewertungsverfahren wählen: Anhang VI (intern) oder Anhang VII (notifizierte Stelle).
3. QM-System aufbauen oder ergänzen, Art. 17 als Anforderungsliste.
4. Anforderungen umsetzen: Risikomanagement, Datenqualität, Dokumentation, Transparenz, menschliche Aufsicht, Genauigkeit, Cybersicherheit.
5. Harmonisierte Normen prüfen, Anwendung gibt Konformitätsvermutung.
6. EU-Konformitätserklärung ausstellen.
7. EU-Datenbank-Registrierung vor Inverkehrbringen.
8. CE-Kennzeichnung anbringen.
9. Post-Market-Monitoring etablieren.

FAQ

Wie lange dauert eine Konformitätsbewertung?

Eine belastbare Durchschnittsdauer gibt es nicht. Sie hängt von der Reife des QM-Systems, der Vollständigkeit der technischen Dokumentation und beim Anhang-VII-Verfahren von der Verfügbarkeit einer notifizierten Stelle ab. Deshalb den Zeitplan rückwärts vom geplanten Markteintritt rechnen und Vorlauf für Auswahl und Beauftragung der Stelle einplanen.

Was kostet die Konformitätsbewertung?

Bei Anhang VI fallen vor allem interne Kosten für QM-Aufbau und Dokumentation an, deren Höhe vom Ausgangsstand abhängt. Bei Anhang VII kommen die Gebühren der notifizierten Stelle hinzu, die sich nur aus deren Angebot ergeben; öffentliche Referenzpreise für AI-Act-Bewertungen gibt es nicht. Nach Art. 62 AI Act sind bei der Festlegung der Gebühren für die Konformitätsbewertung die Interessen und Bedürfnisse von KMU einschließlich Start-ups zu berücksichtigen und die Gebühren proportional zu ihrer Größe zu senken.

Gibt es eine Sandbox für KI-Tests vor dem Markteintritt?

Ja. Art. 57 AI Act verpflichtet jeden Mitgliedsstaat, mindestens eine regulatorische KI-Sandbox (KI-Reallabor) einzurichten. Anbieter, insbesondere KMU und Start-ups, können dort unter Aufsicht der zuständigen Behörde reale Tests durchführen, bevor sie das System in Verkehr bringen. In Deutschland errichtet und betreibt die Bundesnetzagentur nach § 13 Abs. 1 des KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) mindestens ein KI-Reallabor; andere zuständige Behörden können eigene Reallabore betreiben.

Muss jedes Update neu bewertet werden?

Nein, nur wesentliche Änderungen. Maßgeblich ist, ob die Änderung in der ursprünglichen Konformitätsbewertung nicht vorgesehen war und die Erfüllung der Anforderungen beeinträchtigt oder die Zweckbestimmung ändert (Art. 3 Nr. 23, Art. 43 Abs. 4). Änderungen an weiterlernenden Systemen, die der Anbieter vorab festgelegt und in der technischen Dokumentation beschrieben hat, lösen keine neue Bewertung aus. Im Anhang-VII-Verfahren entscheidet die notifizierte Stelle über beabsichtigte Änderungen, die sich auf die Konformität oder die Zweckbestimmung auswirken können (Anhang VII Nr. 4).