Was ist nach Art. 5 AI Act verboten?

Die Verbote im Überblick

Art. 5 AI Act Abs. 1 enumeriert die Verbote in den Buchstaben (a) bis (h); die Verordnung (EU) 2026/1744 fügt die Buchstaben (ba) und (bb) hinzu, die ab dem 2. Dezember 2026 gelten. Hier die Praxis-Übersicht:

• (a) Unterschwellige, manipulative oder täuschende Techniken, KI, die Personen unbemerkt beeinflusst oder täuscht und dadurch erhebliche Schäden bewirkt.
• (b) Ausnutzen von Schwächen schutzbedürftiger Gruppen, KI, die Alter, Behinderung, soziale oder wirtschaftliche Situation gezielt ausnutzt, um erhebliche Schäden zu verursachen.
• (c) Social Scoring, Bewertung oder Klassifizierung natürlicher Personen über einen Zeitraum hinweg anhand sozialen Verhaltens oder persönlicher Merkmale, wenn der Score zu einer Schlechterstellung in einem sachfremden sozialen Kontext oder zu einer ungerechtfertigten oder unverhältnismäßigen Schlechterstellung führt.
• (d) Predictive Policing, Risikobewertungen natürlicher Personen zur Vorhersage einer Straftatbegehung, die ausschließlich auf Profiling oder der Bewertung von Persönlichkeitsmerkmalen beruhen. Nicht erfasst sind Systeme, die eine menschliche Bewertung unterstützen, die bereits auf objektiven, überprüfbaren und unmittelbar mit einer kriminellen Aktivität verknüpften Tatsachen beruht.
• (e) Aufbau oder Erweiterung biometrischer Gesichtsdatenbanken durch ungezieltes Scraping von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen.
• (f) Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen.
• (g) Biometrische Kategorisierung natürlicher Personen nach sensiblen Attributen wie Rasse, politischer Meinung, Gewerkschaftszugehörigkeit, religiöser oder weltanschaulicher Überzeugung, Sexualleben oder sexueller Ausrichtung.
• (h) Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, mit eng begrenzten Ausnahmen und vorheriger Genehmigung durch eine Justizbehörde oder unabhängige Verwaltungsbehörde.
• (ba) Nicht einvernehmliche intime Darstellungen (ab 2. Dezember 2026): KI-Systeme, die realistische Bilder, Videos oder Audioinhalte erzeugen oder manipulieren, die intime Körperteile einer identifizierbaren Person oder eine identifizierbare Person bei sexuellen Handlungen ohne deren Einwilligung zeigen.
• (bb) Darstellungen sexuellen Kindesmissbrauchs (ab 2. Dezember 2026): KI-Systeme, die solches Material im Sinne von Art. 2 lit. c und e der Richtlinie 2011/93/EU erzeugen oder manipulieren, außer wenn nach nationalem Recht ein Handeln „ohne Recht“ zu verneinen ist. Für Anbieter greifen die Verbote nach lit. ba und bb nur, wenn die Erzeugung solcher Inhalte die Zweckbestimmung des Systems ist oder ohne angemessene Schutzvorkehrungen vorhersehbar und reproduzierbar möglich ist; Betreiber trifft das Verbot, wenn sie das System zu diesem Zweck verwenden (Art. 5 Abs. 1a AI Act).

Manipulative und ausnutzende KI (a + b)

Verbote (a) und (b) zielen auf KI, die Menschen zu Verhaltensweisen drängt, die sie sonst nicht zeigen würden. Das ist kein pauschales Verbot von Werbung oder Empfehlungssystemen. Art. 5 Abs. 1 lit. a setzt kumulativ voraus: unterschwellige, absichtlich manipulative oder täuschende Techniken, eine wesentliche Verhaltensbeeinflussung durch spürbare Beeinträchtigung der Fähigkeit, eine informierte Entscheidung zu treffen, und einen eingetretenen oder hinreichend wahrscheinlichen erheblichen Schaden.

Beispiel: Eine App, die per unterschwelligem Audio die Aufmerksamkeit lenkt und so zu impulsiven Käufen mit erheblichem finanziellem Schaden führt, verboten. Eine Werbeanzeige, die offen mit einem Produkt wirbt und das demografische Targeting nach Alter, erlaubt. Die Grenze: Transparenz und die Schwelle "erheblicher Schaden".

Verbot (b) erfasst speziell die Ausnutzung von Verletzlichkeit: Kinder, ältere Menschen, Menschen in finanzieller Notlage. Eine KI, die in einer Spiele-App das Alter jüngerer Nutzer gezielt ausnutzt, um Käufe auszulösen, und dadurch einen erheblichen Schaden verursacht oder wahrscheinlich verursacht, verboten. Eine generische Loot-Box-Mechanik ohne KI-basiertes Profiling, fällt nicht unter Art. 5 (kann aber unter andere Regulierung fallen).

Social Scoring (c)

Verboten ist Social Scoring nach Art. 5 Abs. 1 lit. c, wenn drei Bedingungen erfüllt sind:

• Zeitraum: Bewertung erfolgt über einen Zeitraum hinweg, nicht punktuell.
• Faktoren: Soziales Verhalten oder bekannte, abgeleitete oder vorhergesagte persönliche Eigenschaften oder Persönlichkeitsmerkmale.
• Folgen: Der Score führt zu einer Schlechterstellung in sozialen Kontexten, die mit dem Kontext der ursprünglichen Datenerhebung nichts zu tun haben (Ziffer i), oder zu einer Schlechterstellung, die gemessen am sozialen Verhalten oder dessen Tragweite ungerechtfertigt oder unverhältnismäßig ist (Ziffer ii).

Wichtig: Das Verbot ist nicht auf Behörden beschränkt, es gilt für alle Anbieter und Betreiber, also auch für Unternehmen (Art. 5 AI Act Abs. 1 lit. c). Private Bonitätsprüfungen sind nicht pauschal verboten, solange sie die Voraussetzungen von lit. c nicht erfüllen; sie fallen aber unter Hochrisiko nach Anhang III Nr. 5 lit. b und unterliegen, soweit eine ausschließlich automatisierte Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung vorliegt, Art. 22 DSGVO.

Echtzeit-Biometrie und ihre Ausnahmen (h)

Echtzeit-Biometrie, also die Identifizierung natürlicher Personen aus Live-Videoaufnahmen über automatisierten Abgleich mit Datenbanken, ist in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken grundsätzlich verboten.

Drei eng begrenzte Ausnahmen lässt Art. 5 Abs. 1 lit. h) zu:

• Suche nach Opfern bestimmter Straftaten, Entführung, Menschenhandel, sexuelle Ausbeutung, sowie nach vermissten Personen.
• Abwehr einer konkreten, erheblichen und unmittelbaren Gefahr für Leben oder körperliche Sicherheit natürlicher Personen oder einer tatsächlichen und gegenwärtigen oder tatsächlichen und vorhersehbaren Gefahr eines Terroranschlags.
• Lokalisierung oder Identifizierung einer Person, die einer in Anhang II aufgeführten Straftat verdächtigt wird, die im betreffenden Mitgliedstaat mit einer Freiheitsstrafe im Höchstmaß von mindestens vier Jahren bedroht ist, zum Zweck von Ermittlung, Strafverfolgung oder Strafvollstreckung.

Jede Anwendung erfordert eine vorherige Genehmigung durch eine Justizbehörde oder eine unabhängige Verwaltungsbehörde mit bindender Entscheidung (in dringenden Fällen unverzüglich nachzuholen), wird gemeldet und beschränkt sich räumlich und zeitlich auf das Notwendige (Art. 5 Abs. 3 und 4 AI Act). Die Ausnahmen stehen nur zur Verfügung, wenn ein Mitgliedstaat sie in seinem nationalen Recht ausdrücklich vorsieht (Art. 5 Abs. 5 AI Act).

Emotionserkennung und biometrische Kategorisierung (f + g)

Verbot (f) untersagt Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Erfasst ist bereits das Ableiten von Emotionen natürlicher Personen in diesen Bereichen, etwa per Webcam-Auswertung von Beschäftigten oder Schülern; ob daraus Entscheidungen folgen, spielt für das Verbot keine Rolle. Ausgenommen sind nur KI-Systeme, die aus medizinischen Gründen oder aus Sicherheitsgründen eingesetzt oder in Verkehr gebracht werden sollen (Art. 5 Abs. 1 lit. f AI Act). Außerhalb von Arbeitsplatz und Bildung ist Emotionserkennung nicht verboten, aber Hochrisiko nach Anhang III Nr. 1 lit. c.

Verbot (g) untersagt biometrische Kategorisierung nach sensiblen Attributen, Rasse, politische Meinung, Gewerkschaft, Religion, Weltanschauung, Sexualleben, sexuelle Ausrichtung. Nicht erfasst sind das Kennzeichnen oder Filtern rechtmäßig erworbener biometrischer Datensätze und die Kategorisierung biometrischer Daten im Bereich der Strafverfolgung. Eine Kategorisierung nach anderen Merkmalen fällt nicht unter lit. g; Systeme zur biometrischen Kategorisierung nach sensiblen oder geschützten Merkmalen sind aber Hochrisiko nach Anhang III Nr. 1 lit. b, und Betreiber müssen betroffene Personen nach Art. 50 Abs. 3 AI Act informieren.

Eine App, die Werbung nach „interessiertem Lebensstil" anhand biometrischer Daten ausspielt und dabei auf politische Orientierung oder Sexualleben schließen lässt, verboten. Eine App, die Werbung nach grobem Altersband schaltet, erlaubt.

Praxis: Wie KMU Verbots-Verstöße ausschließen

In dieser Reihenfolge:

1. KI-Inventar: Alle KI-Systeme im Haus auflisten, einschließlich SaaS-Tools, die KI nutzen.
2. Verbots-Mapping: Jedes System gegen die Verbote aus Art. 5 Abs. 1 prüfen. Bei Unsicherheit: Leitlinien der Europäischen Kommission zu verbotenen KI-Praktiken heranziehen.
3. Vendor-Compliance: Schriftliche Zusicherung aller Vendoren einholen, dass ihr System keine verbotene Praktik enthält.
4. Vertragsanpassung: Klauseln aufnehmen, die Verbots-Compliance vertraglich absichern und Schadensersatzregelungen treffen.
5. Schulung: Mitarbeiter, die KI-Systeme auswählen oder einführen, kennen die Verbote aus Art. 5 als Stop-Liste.

FAQ

Ab wann gelten die Verbote?

Die Verbote nach Art. 5 Abs. 1 lit. a bis h gelten seit dem 2. Februar 2025. Sie waren die zuerst wirksame Stufe des AI Act und galten von Anfang an unmittelbar in allen Mitgliedsstaaten, keine Umsetzung in nationales Recht erforderlich. Die mit der Verordnung (EU) 2026/1744 eingefügten Verbote nach lit. ba und bb gelten ab dem 2. Dezember 2026.

Wer ahndet Verstöße in Deutschland?

Seit dem 29. Juli 2026 gilt das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG, BGBl. 2026 I Nr. 223). Danach ist die Bundesnetzagentur Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle. In einzelnen Bereichen sind andere Behörden zuständig, etwa die BaFin für KI-Systeme im direkten Zusammenhang mit regulierten Finanztätigkeiten der von ihr beaufsichtigten Unternehmen (§ 2 Abs. 3 KI-MIG). Stand: 18.09.2026.

Sind Recommender-Systeme verboten?

Nein, nicht pauschal. Empfehlungssysteme, etwa Netflix-Empfehlungen, Shopping-Vorschläge, sind erlaubt, solange sie nicht unbewusst manipulieren oder Schwächen schutzbedürftiger Gruppen gezielt ausnutzen. Hochrisiko-Pflichten greifen nur, wenn das System unter einen der Anwendungsfälle aus Anhang III fällt oder Sicherheitsbauteil eines Produkts nach Anhang I ist (Art. 6 AI Act).

Was passiert mit Bestandssystemen, die ein Verbot erfüllen?

Ihre Verwendung ist seit dem 2. Februar 2025 unzulässig, für die Praktiken nach lit. ba und bb ab dem 2. Dezember 2026. Eine Übergangsfrist für Bestandssysteme gibt es bei den Verboten nicht, anders als bei Hochrisiko. Die Bußgeldvorschriften (Kapitel XII) gelten seit dem 2. August 2025 (Art. 113 lit. b AI Act); in Deutschland regelt § 15 KI-MIG die Bußgelder.