GPAI-Provider-Pflichten unter AI Act

Was ist GPAI?

Ein GPAI-Modell ist nach Art. 3 Nr. 63 AI Act ein KI-Modell, das auf einer großen Datenmenge trainiert wurde, allgemeine Anwendbarkeit zeigt und auf eine breite Palette nachgelagerter Anwendungen integrierbar ist. Damit fallen die meisten Foundation Models und LLMs unter den Begriff — GPT-Modelle, Claude, Llama, Mistral, Gemini, Bildgeneratoren wie Stable Diffusion oder Imagen, Multimodalmodelle.

Detail

Wichtig: Reine Anwendungen, die ein GPAI-Modell nutzen (etwa ein Chatbot, der ein API-Modell ansteuert), sind selbst kein GPAI. Sie sind nachgelagerte KI-Systeme. Die GPAI-Pflichten treffen den Modell-Anbieter — denjenigen, der das Modell trainiert und am Markt verfügbar macht.

Ein deutscher KMU, der lokal ein Open-Source-LLM hostet und für eigene Zwecke nutzt, ist im Regelfall nicht GPAI-Anbieter. Wer aber ein eigenes Modell trainiert und unter eigenem Namen vertreibt — auch in Nischen — kann unter Art. 53 fallen.

Schwellwert für systemisches Risiko: 10^25 FLOPs

Art. 51 AI Act definiert GPAI mit systemischem Risiko über zwei Wege:

• Kumulativer Trainings-Rechenaufwand größer 10^25 FLOPs — die einfach zu prüfende Vermutung.
• Bezeichnung durch die Kommission auf Grundlage technischer Kriterien (Anzahl Parameter, Datenmenge, Modalitäten, Benchmark-Ergebnisse, Reichweite der Verbreitung, geschätzte Zahl registrierter Nutzer).

Die 10^25-Schwelle ist bewusst hoch gesetzt. Stand 2026 fallen darunter nur Modelle der größten Anbieter — GPT-4 und Nachfolger, Anthropic Claude (große Versionen), Gemini Ultra, einzelne Llama-Derivate. Open-Source-Modelle unter 70B Parametern erreichen den Schwellwert in der Regel nicht.

Pflichten für gewöhnliche GPAI (Art. 53)

Auch ohne systemisches Risiko hat ein GPAI-Anbieter substanzielle Pflichten:

• Technische Dokumentation des Modells (Anhang XI): Trainingsverfahren, Datenquellen-Übersicht, Architektur-Eckdaten. Diese Dokumentation muss auf Anfrage des AI Office und nationaler Behörden vorgelegt werden.
• Informationen für nachgelagerte Anbieter (Anhang XII): genug Details, damit ein nachgelagerter Anbieter — der das GPAI-Modell in seine Anwendung integriert — seine eigenen Pflichten erfüllen kann.
• Urheberrechts-Policy: ein dokumentiertes Verfahren, wie Trainingsdaten auf Urheberrechtskonformität geprüft werden, einschließlich Beachtung von Rechtsvorbehalten nach Art. 4 Abs. 3 DSM-Richtlinie (TDM-Opt-Out).
• Zusammenfassung der Trainingsdaten: eine ausreichend detaillierte Übersicht der für das Training verwendeten Inhalte, öffentlich zugänglich gemacht. Format und Tiefe gibt das AI Office vor.

Diese Pflichten gelten ab dem 2. August 2025. Für Modelle, die vor diesem Datum auf dem Markt waren, gilt eine Übergangsfrist bis zum 2. August 2027 — innerhalb derer die Pflichten "geeignete Maßnahmen" erfordern, nicht volle Konformität.

Zusätzliche Pflichten bei systemischem Risiko (Art. 55)

GPAI-Modelle mit systemischem Risiko tragen zusätzlich:

• Modellevaluierung: durchführen nach dem Stand der Technik, einschließlich standardisierter Protokolle.
• Risikobewertung und Risikominderung: systemische Risiken auf Unionsebene identifizieren, dokumentieren, mindern. Dazu zählen Gefahren der Verbreitung gefährlicher Inhalte (CBRN — chemisch, biologisch, radiologisch, nuklear), automatisierter Cyberangriffe, Loss-of-Control-Szenarien.
• Adversarial Testing und Red-Teaming: mit qualifizierten externen Testern, vor Markteinführung und bei wesentlichen Updates.
• Vorfallmeldung: schwerwiegende Vorfälle und Beinahe-Vorfälle an das AI Office innerhalb eng definierter Fristen.
• Cybersicherheit: Schutz des Modells, der Trainingsinfrastruktur und der Gewichte gegen Diebstahl und Manipulation.

Das AI Office hat im Frühjahr 2025 einen Code of Practice für GPAI vorgelegt. Die Unterzeichnung dieses freiwilligen Verhaltenskodex gilt als Vermutung für die Konformität mit Art. 53 und Art. 55, solange keine harmonisierten Normen vorliegen.

Open-Source-Sonderregel

Art. 53 Abs. 2 AI Act sieht eine Erleichterung für Open-Source-GPAI vor: Anbieter, die ihr Modell unter einer freien Lizenz veröffentlichen — Gewichte, Architektur, Nutzungsinformation öffentlich —, sind von der Dokumentationspflicht und der Informationspflicht an nachgelagerte Anbieter befreit.

Wichtig: Die Befreiung gilt nicht für Open-Source-GPAI mit systemischem Risiko. Wer ein Modell veröffentlicht, das über 10^25 FLOPs trainiert wurde, hat die vollen Art.-55-Pflichten — unabhängig von der Lizenz. Auch die Urheberrechts-Policy und die Trainingsdaten-Zusammenfassung sind nicht durch Open-Source-Lizenzen substituierbar.

Die Erleichterung zielt auf kleinere Open-Source-Anbieter und Forschungsorganisationen. Sie ist keine Pauschal-Entlastung großer Open-Weights-Modelle wie etwa Llama 3 oder ähnlicher Größenordnungen.

Praxis: Fünf-Schritte-Check für GPAI-Anbieter

Vollständiger Check:

1. Schwellwert-Klassifizierung: Wie viele FLOPs wurden im Training kumuliert? Pre-Training plus alle nachgelagerten Fine-Tunings zählen.
2. Anbieter-Status: Ist meine Organisation Modell-Anbieter oder nachgelagerter Anbieter? Bei Eigenentwicklung Anbieter, bei reinem API-Konsum nachgelagert.
3. Dokumentation: Anhang XI (für AI Office) und Anhang XII (für Downstream-Partner) anlegen oder ergänzen.
4. Urheberrechts-Policy: schriftliche Policy, mit Verantwortlichem und Eskalationsweg bei TDM-Opt-Out-Verstößen.
5. Bei systemischem Risiko: Code-of-Practice prüfen, Adversarial-Testing-Plan, Vorfall-Meldewege einrichten.

FAQ

Wer entscheidet, ob mein Modell systemisches Risiko hat?

Primär die Selbsteinschätzung des Anbieters auf Basis der 10^25-Schwelle. Zusätzlich kann die EU-Kommission per Beschluss feststellen, dass ein Modell die Kriterien erfüllt — auch wenn der Schwellwert nicht überschritten wurde. Der Anbieter kann im Voraus die Klassifizierung beim AI Office prüfen lassen.

Was passiert bei Verstoß gegen GPAI-Pflichten?

Art. 101 AI Act sieht für GPAI-Verstöße Bußgelder bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes vor. Bei systemischem Risiko und schweren Verstößen sind höhere Beträge im Rahmen der allgemeinen AI-Act-Bußgelder möglich.

Wann gelten die GPAI-Pflichten?

Art. 53 (gewöhnliche GPAI-Pflichten) und Art. 55 (systemisches Risiko) treten am 2. August 2025 in Kraft. Für GPAI-Modelle, die vor diesem Datum auf den Markt gebracht wurden, gilt eine Übergangsphase bis zum 2. August 2027, in der "geeignete Maßnahmen" anstelle voller Konformität ausreichen — wobei das AI Office aktive Schritte erwartet.

Was ist der Unterschied zum Hochrisiko-System?

Ein GPAI-Modell ist ein technischer Baustein — eine grundlegende, vielseitig einsetzbare Kapazität. Ein Hochrisiko-System nach Anhang III ist eine spezifische Anwendung in einem regulierten Einsatzbereich. Beide Begriffe können überlappen: Wer ein GPAI-Modell in einem Hochrisiko-Anwendungsfall (z.B. HR-Recruiting) einsetzt, hat beide Pflichtkataloge zu erfüllen.