GPAI-Provider-Pflichten unter AI Act

Was ist GPAI?

Ein GPAI-Modell ist nach Art. 3 Nr. 63 AI Act ein KI-Modell, das eine erhebliche allgemeine Verwendbarkeit aufweist, ein breites Spektrum unterschiedlicher Aufgaben kompetent erfüllen und in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann; typischerweise, aber nicht zwingend, wird es mit großen Datenmengen im Wege der Selbstüberwachung trainiert. Ausgenommen sind Modelle, die vor dem Inverkehrbringen nur für Forschung, Entwicklung oder Prototyping genutzt werden. Unter den Begriff fallen typischerweise große Sprachmodelle sowie Bild- und Multimodalmodelle mit breitem Einsatzspektrum.

Wichtig: Reine Anwendungen, die ein GPAI-Modell nutzen (etwa ein Chatbot, der ein API-Modell ansteuert), sind selbst kein GPAI-Modell, sondern KI-Systeme; wer sie anbietet, ist nachgelagerter Anbieter (Art. 3 Nr. 68). Die GPAI-Pflichten treffen den Modell-Anbieter, also denjenigen, der das Modell entwickelt oder entwickeln lässt und unter eigenem Namen oder eigener Marke in Verkehr bringt (Art. 3 Nr. 3).

Ein deutscher KMU, der lokal ein Open-Source-LLM hostet und für eigene Zwecke nutzt, ist im Regelfall nicht GPAI-Anbieter. Wer aber ein eigenes Modell trainiert und unter eigenem Namen vertreibt, auch in Nischen, kann unter Art. 53 fallen.

Schwellwert für systemisches Risiko: 10^25 FLOPs

Art. 51 AI Act definiert GPAI mit systemischem Risiko über zwei Wege:

• Kumulativer Trainings-Rechenaufwand größer 10^25 FLOPs, die einfach zu prüfende Vermutung.
• Bezeichnung durch die Kommission auf Grundlage technischer Kriterien (Anzahl Parameter, Datenmenge, Modalitäten, Benchmark-Ergebnisse, Reichweite der Verbreitung, geschätzte Zahl registrierter Nutzer).

Die 10^25-Schwelle begründet eine Vermutung hoher Wirkungsfähigkeit (Art. 51 Abs. 2). Welche Modelle als GPAI-Modelle mit systemischem Risiko gelten, veröffentlicht die Kommission in einer Liste (Art. 52 Abs. 6). Maßgeblich ist der Trainings-Rechenaufwand, nicht die Parameterzahl; eine Parametergrenze, unterhalb derer die Schwelle sicher unterschritten wird, gibt es nicht.

Pflichten für gewöhnliche GPAI (Art. 53)

Auch ohne systemisches Risiko hat ein GPAI-Anbieter substanzielle Pflichten:

• Technische Dokumentation des Modells (Anhang XI): Trainingsverfahren, Datenquellen-Übersicht, Architektur-Eckdaten. Diese Dokumentation muss auf Anfrage des AI Office und nationaler Behörden vorgelegt werden.
• Informationen für nachgelagerte Anbieter (Anhang XII): genug Details, damit ein nachgelagerter Anbieter, der das GPAI-Modell in seine Anwendung integriert, seine eigenen Pflichten erfüllen kann.
• Urheberrechts-Policy: ein dokumentiertes Verfahren, wie Trainingsdaten auf Urheberrechtskonformität geprüft werden, einschließlich Beachtung von Rechtsvorbehalten nach Art. 4 Abs. 3 DSM-Richtlinie (TDM-Opt-Out).
• Zusammenfassung der Trainingsdaten: eine ausreichend detaillierte Übersicht der für das Training verwendeten Inhalte, öffentlich zugänglich gemacht. Format und Tiefe gibt das AI Office vor.

Diese Pflichten gelten ab dem 2. August 2025. Für Modelle, die vor diesem Datum in Verkehr gebracht wurden, müssen die Anbieter nach Art. 111 Abs. 3 AI Act die erforderlichen Schritte unternehmen, um die Pflichten bis zum 2. August 2027 zu erfüllen. Das ist eine Frist bis zur vollständigen Einhaltung, kein abgesenkter Maßstab.

Zusätzliche Pflichten bei systemischem Risiko (Art. 55)

GPAI-Modelle mit systemischem Risiko tragen zusätzlich:

• Modellevaluierung: nach standardisierten Protokollen und Werkzeugen, die dem Stand der Technik entsprechen, einschließlich durchgeführter und dokumentierter Angriffstests (Adversarial Testing), Art. 55 Abs. 1 lit. a.
• Risikobewertung und Risikominderung: mögliche systemische Risiken auf Unionsebene einschließlich ihrer Ursachen bewerten und mindern (Art. 55 Abs. 1 lit. b). Erwägungsgrund 110 nennt als Beispiele unter anderem chemische, biologische, radiologische und nukleare Risiken, offensive Cyberfähigkeiten und Kontrollprobleme bei der Ausrichtung an menschlichen Absichten.
• Adversarial Testing und Red-Teaming: Teil der Modellevaluierung nach Art. 55 Abs. 1 lit. a. Wer die Tests durchführt und zu welchen Zeitpunkten, legt der Gesetzestext nicht fest; Einzelheiten konkretisiert der Code of Practice.
• Vorfallmeldung: einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen, dokumentieren und unverzüglich an das AI Office und gegebenenfalls an die zuständigen nationalen Behörden melden (Art. 55 Abs. 1 lit. c).
• Cybersicherheit: ein angemessenes Cybersicherheitsniveau für das Modell und seine physische Infrastruktur (Art. 55 Abs. 1 lit. d).

Die Kommission hat am 10. Juli 2025 die finale Fassung des Code of Practice für GPAI veröffentlicht. Nach Art. 53 Abs. 4 und Art. 55 Abs. 2 AI Act können sich Anbieter auf diesen freiwilligen Verhaltenskodex stützen, um die Einhaltung der Pflichten nachzuweisen, bis eine harmonisierte Norm veröffentlicht ist. Eine gesetzliche Konformitätsvermutung knüpft der AI Act nur an harmonisierte Normen, nicht an den Kodex.

Open-Source-Sonderregel

Art. 53 Abs. 2 AI Act sieht eine Erleichterung für Open-Source-GPAI vor: Anbieter, die ihr Modell unter einer freien Lizenz veröffentlichen, Gewichte, Architektur, Nutzungsinformation öffentlich, sind von der Dokumentationspflicht und der Informationspflicht an nachgelagerte Anbieter befreit.

Wichtig: Die Befreiung gilt nicht für Open-Source-GPAI mit systemischem Risiko. Wer ein Modell veröffentlicht, das über 10^25 FLOPs trainiert wurde, hat die vollen Art.-55-Pflichten, unabhängig von der Lizenz. Auch die Urheberrechts-Policy und die Trainingsdaten-Zusammenfassung sind nicht durch Open-Source-Lizenzen substituierbar.

Für die Befreiung kommt es nicht auf die Größe des Anbieters an, sondern auf die Lizenz, die Veröffentlichung von Gewichten, Architektur und Nutzungsinformationen und darauf, dass das Modell kein systemisches Risiko aufweist.

Praxis: Fünf-Schritte-Check für GPAI-Anbieter

Vollständiger Check:

1. Schwellwert-Klassifizierung: Wie viele FLOPs wurden im Training kumuliert? Pre-Training plus alle nachgelagerten Fine-Tunings zählen.
2. Anbieter-Status: Ist meine Organisation Modell-Anbieter oder nachgelagerter Anbieter? Wer ein Modell entwickelt und unter eigenem Namen in Verkehr bringt, ist Modell-Anbieter; wer ein fremdes Modell in ein eigenes KI-System integriert, ist nachgelagerter Anbieter.
3. Dokumentation: Anhang XI (für AI Office) und Anhang XII (für Downstream-Partner) anlegen oder ergänzen.
4. Urheberrechts-Policy: schriftliche Policy, mit Verantwortlichem und Eskalationsweg bei TDM-Opt-Out-Verstößen.
5. Bei systemischem Risiko: Code-of-Practice prüfen, Adversarial-Testing-Plan, Vorfall-Meldewege einrichten.

FAQ

Wer entscheidet, ob mein Modell systemisches Risiko hat?

Primär die Selbsteinschätzung des Anbieters auf Basis der 10^25-Schwelle. Zusätzlich kann die EU-Kommission per Beschluss feststellen, dass ein Modell die Kriterien erfüllt, auch wenn der Schwellwert nicht überschritten wurde. Erreicht ein Modell die Schwelle, muss der Anbieter das nach Art. 52 Abs. 1 AI Act unverzüglich, spätestens binnen zwei Wochen der Kommission melden. Mit der Meldung kann er begründen, warum das Modell ausnahmsweise kein systemisches Risiko aufweist (Art. 52 Abs. 2); hat die Kommission ein Modell nach Art. 52 Abs. 4 als Modell mit systemischem Risiko benannt, kann der Anbieter frühestens sechs Monate nach dieser Entscheidung eine Neubewertung beantragen (Art. 52 Abs. 5).

Was passiert bei Verstoß gegen GPAI-Pflichten?

Art. 101 AI Act sieht für GPAI-Verstöße Bußgelder bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes vor. Es gilt der höhere der beiden Beträge. Die Geldbußen verhängt die Kommission bei vorsätzlichen oder fahrlässigen Verstößen; für Anbieter von GPAI-Modellen ist Art. 101 der maßgebliche Bußgeldrahmen, auch bei systemischem Risiko. Art. 101 gilt seit dem 2. August 2026 (Art. 113 lit. b).

Wann gelten die GPAI-Pflichten?

Art. 53 (gewöhnliche GPAI-Pflichten) und Art. 55 (systemisches Risiko) gelten seit dem 2. August 2025. Anbieter von GPAI-Modellen, die vor diesem Datum in Verkehr gebracht wurden, müssen die Pflichten nach Art. 111 Abs. 3 AI Act bis zum 2. August 2027 vollständig erfüllen.

Was ist der Unterschied zum Hochrisiko-System?

Ein GPAI-Modell ist ein technischer Baustein, eine grundlegende, vielseitig einsetzbare Kapazität. Ein Hochrisiko-System nach Anhang III ist eine spezifische Anwendung in einem regulierten Einsatzbereich. Beide Begriffe können zusammentreffen: Wird ein GPAI-Modell in ein Hochrisiko-System (z. B. für die Bewerberauswahl) integriert, trägt der Anbieter dieses Systems die Hochrisiko-Pflichten, der Modell-Anbieter die GPAI-Pflichten. Beide Pflichtkataloge treffen dasselbe Unternehmen nur, wenn es Modell und Hochrisiko-System selbst anbietet.