ChatGPT im Unternehmen einsetzen: Verbreitete Konfigurationen und ihre Konformitätslage

Welche regulatorische Grundlage greift?

Beim Einsatz generativer KI im Unternehmen sind regelmäßig mehrere Regelwerke parallel zu beachten:

• AI Act (Verordnung (EU) 2024/1689): KI-Kompetenz nach Art. 4; Transparenzpflichten nach Art. 50; Verbote nach Art. 5. Die Betreiberpflichten nach Art. 26 gelten nur beim Einsatz von Hochrisiko-KI-Systemen.
• DSGVO (Verordnung (EU) 2016/679): Rechtsgrundlage nach Art. 6, Auftragsverarbeitungs-Vereinbarung nach Art. 28, Informationspflichten nach Art. 13/14, ggf. DPIA nach Art. 35.

• EDPB ChatGPT Taskforce Report (Mai 2024): fasst die Prüfung der Verarbeitung durch OpenAI als Verantwortlichen zusammen (u. a. Rechtmäßigkeit, Fairness, Transparenz); an Unternehmen als Nutzer richtet er sich nicht unmittelbar.
• Sektorale Vorgaben (z. B. Berufsgeheimnisse nach § 203 StGB, MaRisk im Finanzsektor, ärztliche Schweigepflicht) können zusätzlich greifen.

Welche Konstellation passt zu deinem KI-Profil?

Eine sinnvolle Tier-Wahl ergibt sich aus der Sensitivität der Eingabedaten. Die folgenden Konstellationen sind in der KMU-Praxis verbreitet:

• Öffentliche Daten (Marktanalysen aus dem Web, Pressemitteilungen, Allgemeinwissen): Sofern keine vertraulichen Bezüge bestehen, wird Free-Tier in Teilen als ausreichend diskutiert. Eine dokumentierte Risiko-Einordnung wird gleichwohl empfohlen.
• Interne, nicht-personenbezogene Daten (unveröffentlichte Konzepte, interne Mails ohne Personenbezug, Strategien): In verbreiteten Konfigurationen wird eine Verarbeitung in Enterprise-Tiers mit AVV als günstigere Konformitäts-Konstellation angesehen.

• Vertrauliche und personenbezogene Daten (Kundendaten, HR-Akten, Geschäftsgeheimnisse): Eine Verarbeitung außerhalb eines Enterprise-Tiers mit AVV ist regelmäßig nicht zu empfehlen; EU-gehostete oder lokale Lösungen werden in besonders sensiblen Bereichen diskutiert.

Anbieter wie OpenAI (Unternehmenstarife und API), Microsoft (Microsoft 365 Copilot) und Google (Gemini Enterprise) erklären in ihren Datenschutz-Hinweisen, Kunden-Eingaben nicht zu Trainingszwecken zu verwenden. Diese Angaben sind vertraglich abzusichern und im Einsatz zu überprüfen.

Welcher Aufbau-Rahmen ist verbreitet?

Ein pragmatischer Rahmen besteht aus drei Bausteinen. Ob er im konkreten Fall passt, ist im Einzelfall zu beurteilen.

Erster Baustein, Datensensitivitäts-Klassifikation

Eine schriftliche Festlegung, welche Datenkategorien in welchem Tier verarbeitet werden dürfen. Üblich ist eine Vier-Stufen-Logik (öffentlich, intern, vertraulich, personenbezogen) mit Tier-Zuordnung. Die Klassifikation wird typischerweise im KI-Inventar dokumentiert.

Zweiter Baustein, Transparenz nach außen

Für Unternehmen, die generative KI nach außen einsetzen, sind vor allem diese Konstellationen des Art. 50 AI Act relevant:

• Interaktion mit Chatbots: KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, müssen so konzipiert sein, dass die Personen erfahren, dass sie mit einem KI-System interagieren, es sei denn, das ist aus Sicht einer angemessen informierten Person offensichtlich (Art. 50 Abs. 1). Die Pflicht trifft den Anbieter; Anbieter ist auch, wer ein KI-System unter eigenem Namen in Betrieb nimmt (Art. 3 Nr. 3), etwa einen eigenen Website-Chatbot.
• Synthetische Inhalte: KI-generierte Audio-, Bild-, Video- und Textinhalte müssen nach Art. 50 Abs. 2 AI Act in einem maschinenlesbaren Format markiert und als künstlich erzeugt erkennbar sein; ausgenommen sind Systeme, die nur eine unterstützende Funktion für die Standardbearbeitung ausführen oder die Eingabedaten nicht wesentlich verändern. Die Pflicht trifft den Anbieter; Betreiber sollten die Markierungs-Fähigkeit bei der Tool-Auswahl berücksichtigen.
• Deepfakes: Bild-, Audio- oder Videomaterial, das real wirkt, aber KI-generiert oder -manipuliert ist, muss der Betreiber nach Art. 50 Abs. 4 AI Act als solches offenlegen. Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken entfällt die Pflicht nicht; sie beschränkt sich auf eine Offenlegung, die Darstellung und Genuss des Werks nicht beeinträchtigt.
• KI-Texte zu Angelegenheiten von öffentlichem Interesse: Betreiber, die KI-generierte oder -manipulierte Texte veröffentlichen, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen dies offenlegen, es sei denn, der Text wurde von Menschen überprüft oder redaktionell kontrolliert und eine Person trägt die redaktionelle Verantwortung (Art. 50 Abs. 4 UAbs. 2).
• Emotionserkennung und biometrische Kategorisierung: Betreiber solcher Systeme müssen die betroffenen Personen über den Betrieb informieren (Art. 50 Abs. 3).

Dritter Baustein, interne Nutzungsrichtlinie

Eine schriftliche Regelung zu freigegebenen Tools, erlaubten und nicht erlaubten Datenkategorien, Eskalationswegen und arbeitsrechtlichen Konsequenzen. Eine begleitende Schulung ist sinnvoll, auch als Maßnahme nach Art. 4 AI Act, der seit Februar 2025 anwendbar ist. Seit dem Digital Omnibus (VO (EU) 2026/1744, in Kraft seit 27.07.2026) verlangt Art. 4 Maßnahmen zur Förderung der KI-Kompetenz, aber kein garantiertes Kompetenzniveau; eine dokumentierte Teilnahme ist nicht vorgeschrieben, erleichtert aber den Nachweis.

Tier-Orientierung nach Unternehmensgröße

Eine pauschale Tier-Empfehlung ist nicht möglich, die folgende Übersicht beschreibt verbreitete Konstellationen, ersetzt jedoch keine Einzelfall-Prüfung:

• Kleine Teams: ChatGPT-Unternehmenstarife oder Microsoft 365 Copilot Business (laut Microsoft für Organisationen bis 300 Nutzer) kommen in Betracht; Verbraucher-Abos sind für die Verarbeitung von Unternehmensdaten nicht ausgelegt. AVV-Fähigkeit und Vertragsbedingungen sind im Einzelfall zu prüfen.
• Größere Teams mit zentraler Verwaltung: Tarife mit SSO, Audit-Logs und zentraler Datenkontrolle; welche Funktionen ein Tarif enthält, ist der jeweils aktuellen Herstellerbeschreibung zu entnehmen.
• Organisationen mit hohem Datenschutzanspruch: Microsoft 365 Copilot mit EU Data Boundary in Verbindung mit Sensitivity-Labels oder Anbieter mit vertraglich zugesicherter Datenverarbeitung in der EU kommen in Betracht; Speicher- und Verarbeitungsort sind im jeweiligen Vertrag zu prüfen.

Für den Nachweis gegenüber Aufsicht oder Prüfern hilfreich sind: eine Liste freigegebener Tools mit Vertragsstand, die dokumentierte Nutzungsregelung mit Schulungsübersicht und technische Maßnahmen zur Eingrenzung der Datenkategorien (z. B. über Microsoft Purview oder vergleichbare Logging-Mechanismen).

Welche Konstellationen erfordern abweichendes Vorgehen?

In folgenden Konstellationen reicht die hier skizzierte Drei-Säulen-Orientierung nicht aus:

• Berufsgeheimnisträger (Ärzte, Rechtsanwälte, Steuerberater, § 203 StGB): Eine KI-Verarbeitung von Mandanten-/Patientendaten ist auch im Enterprise-Tier nur unter engen Voraussetzungen zulässig, eine fachliche Prüfung ist unverzichtbar.
• Finanzsektor (DORA, MaRisk): Sektorale Vorgaben, insbesondere zum IKT-Drittparteienrisiko nach DORA, können Tier- und Hoster-Wahl deutlich einschränken. Die BAIT sind für DORA-Unternehmen abgelöst und entfallen mit Ablauf des 31.12.2026.

• Hochrisiko-Anwendungen nach Anhang III AI Act (HR-Vorauswahl per KI, Credit-Scoring): Auch bei Nutzung etablierter Enterprise-Tiers entstehen erweiterte Betreiberpflichten nach Art. 26 AI Act und in bestimmten Fällen die Grundrechte-Folgenabschätzung nach Art. 27; die Anforderungen der Art. 8 bis 15 muss der Anbieter erfüllen, es sei denn, das Unternehmen wird nach Art. 25 selbst Anbieter. Für Systeme nach Anhang III gelten diese Pflichten nach dem Digital Omnibus ab dem 2. Dezember 2027.
• Internationaler Datentransfer: Sofern Daten außerhalb des EWR verarbeitet werden, sind die Vorgaben der Art. 44 ff. DSGVO und ggf. der Data Privacy Framework-Status zu prüfen.
• Anbieter-Konstellation: Wer ein KI-System unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, ist Anbieter (Art. 3 Nr. 3 AI Act). Bei Hochrisiko-KI-Systemen wird ein Betreiber nach Art. 25 Abs. 1 zum Anbieter, wenn er seinen Namen auf dem System anbringt, es wesentlich verändert oder seine Zweckbestimmung so ändert, dass es zum Hochrisiko-System wird.
• Mitbestimmung: Ist ein KI-System dazu bestimmt, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen, hat der Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG mitzubestimmen; § 90 Abs. 1 Nr. 3 BetrVG verlangt zudem die rechtzeitige Unterrichtung über die Planung von Arbeitsverfahren unter Einsatz von KI.

In diesen Konstellationen wird eine Einzelfall-Begleitung durch Datenschutzbeauftragte, Compliance-Funktion oder anwaltliche Beratung typischerweise empfohlen.

Nächster Schritt

Eine erste Standort-Bestimmung liefert der AI-Act-Check, ohne Anspruch auf Vollständigkeit oder Verbindlichkeit.

Für eine vertiefte Pflichten-Übersicht: AI Act für den Mittelstand: Was wirklich Pflicht ist.