AI Act: Verbotene KI-Praktiken und KI-Kompetenzpflicht gelten seit Februar 2025
KI-Recht · AI Act, Art. 4 und 5 · 2. Februar 2025
Ein halbes Jahr nach Inkrafttreten der KI-Verordnung (EU) 2024/1689 wurden am 2. Februar 2025 die ersten Pflichten verbindlich: die Verbote bestimmter KI-Praktiken nach Art. 5 und die Pflicht zur KI-Kompetenz nach Art. 4. Beide betreffen nicht nur KI-Entwickler, sondern auch Unternehmen, die KI-Systeme lediglich einsetzen.
- Art. 5 verbietet unter anderem manipulative KI, Social Scoring und Emotionserkennung am Arbeitsplatz.
- Verstöße gegen die Verbote können mit bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden; die Sanktionsregeln gelten seit dem 2. August 2025.
- Die KI-Kompetenzpflicht wurde durch die Verordnung (EU) 2026/1744 mit Wirkung zum 27. Juli 2026 zu einer Förderpflicht abgeschwächt.
Die verbotenen Praktiken
Art. 5 Abs. 1 AI Act listet acht Fallgruppen: unterschwellige oder manipulative Techniken, die Menschen erheblich schaden können; die Ausnutzung von Schwächen aufgrund von Alter, Behinderung oder sozialer Lage; Social Scoring; Risikobewertungen zur Begehung von Straftaten allein auf Basis von Profiling; das ungezielte Auslesen von Gesichtsbildern zum Aufbau von Gesichtserkennungsdatenbanken; Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, soweit nicht medizinisch oder sicherheitsbedingt; biometrische Kategorisierung zur Ableitung sensibler Merkmale; sowie biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken mit engen Ausnahmen.
Die Kommission hat am 4. Februar 2025 Leitlinien zu den verbotenen Praktiken und am 6. Februar 2025 Leitlinien zum Begriff des KI-Systems veröffentlicht. Sie sind rechtlich nicht verbindlich, geben aber die Auslegung der Behörden vor. Mit der Verordnung (EU) 2026/1744 kommen ab dem 2. Dezember 2026 zwei weitere Verbote hinzu, die sich gegen KI-generierte intime Darstellungen ohne Einwilligung und gegen Missbrauchsdarstellungen von Kindern richten.
KI-Kompetenz nach Art. 4
Anbieter und Betreiber von KI-Systemen mussten nach der ursprünglichen Fassung sicherstellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt. Der Digital Omnibus on AI hat die Vorschrift neu gefasst: Seit dem 27. Juli 2026 sind Maßnahmen zur Förderung der KI-Kompetenz zu ergreifen; ein bestimmtes Kompetenzniveau einzelner Personen muss nicht garantiert werden.
Geschwächt ist die Pflicht zur KI-Kompetenz – nicht das Haftungsrisiko schlecht geschulter Mitarbeitender.
Schulungen bleiben deshalb sinnvoll: Sie dienen der Dokumentation sorgfältigen Handelns und helfen, die Verbote des Art. 5 im Alltag zuverlässig einzuhalten.
- Eingesetzte KI-Anwendungen inventarisieren und gegen die Verbotsliste des Art. 5 abgleichen
- Besonders HR-Tools auf Emotionserkennung und biometrische Funktionen prüfen
- Schulungs- und Richtlinienkonzept zur KI-Nutzung dokumentieren
Quelle: Verordnung (EU) 2024/1689 (KI-Verordnung), EUR-Lex ↗
Fragen zu diesem Thema?
Wir unterstützen bei der Einordnung von KI-Anwendungen, der Erstellung interner KI-Richtlinien und der Vertragsgestaltung mit KI-Anbietern.
Beratung anfragen ↗Redaktionsstand: 9. November 2026. Der Beitrag gibt einen allgemeinen Überblick und ersetzt keine Beratung im Einzelfall.
Mehr zum Rechtsgebiet