EU AI Act: Pflichten, Risikoklassen und Fristen im Überblick

Der EU AI Act, die Verordnung der Europäischen Union zur Regulierung von Künstlicher Intelligenz, ist seit August 2024 in Kraft. Die Anforderungen greifen nicht auf einmal, sondern stufenweise bis 2027. Dieser Beitrag ordnet ein, welche Regeln bereits gelten und welche Pflichten für Anbieter, Betreiber und GPAI-Nutzer relevant werden.

TL;DR:

• Der EU AI Act unterscheidet vier Risikoklassen: unzulässig, hoch, Transparenzpflicht, niedrig.
• Die Rolle eines Unternehmens (Anbieter, Betreiber, Downstream-Nutzer eines GPAI-Modells) entscheidet über die Pflichten, nicht die Unternehmensgröße.
• Ab 2. August 2026 kann die Europäische Kommission ihre Durchsetzungsbefugnisse gegenüber GPAI-Anbietern wahrnehmen; nationale Marktüberwachung läuft parallel.
• Die Bußgelder sind gestaffelt: bis 7 % oder 35 Mio. € für verbotene Praktiken, bis 3 % oder 15 Mio. € für GPAI-Verstöße.

Was der EU AI Act regelt: die vier Risikoklassen

Der AI Act teilt KI-Systeme nach dem Risiko ein, das sie für Grundrechte, Sicherheit oder Gesundheit darstellen:

1. Unzulässiges Risiko (Art. 5, seit Februar 2025 verboten): Social Scoring, bestimmte biometrische Fernidentifikation, Emotionserkennung am Arbeitsplatz.
2. Hochrisiko (Anhang III): KI im Personalwesen (z. B. Lebenslauf-Screening), Kreditwürdigkeitsprüfung, biometrische Zugangskontrolle, sicherheitsrelevante Komponenten in Maschinen.
3. Transparenzpflicht: Chatbots mit direktem Nutzerkontakt, KI-generierte Bilder und Texte (Kennzeichnung), Deepfake-Inhalte.
4. Niedriges Risiko: Spam-Filter, Empfehlungssysteme ohne sensible Entscheidungen, Predictive Maintenance in der Produktion.

Die umfangreichsten Pflichten gelten für Hochrisiko-KI. Für Systeme mit Transparenzpflicht reicht in der Regel eine Kennzeichnung oder ein Nutzerhinweis; für niedriges Risiko gibt es keine spezifischen Anforderungen nach dem AI Act.

Anbieter, Betreiber oder GPAI-Nutzer? Die Rolle entscheidet

Das Gesetz knüpft Pflichten an die Rolle, in der ein Unternehmen auftritt. Die drei für die Praxis relevanten:

• Anbieter: Bringt ein KI-System oder ein GPAI-Modell unter eigener Marke in den Verkehr. Trägt die Hauptlast der Dokumentations-, Transparenz- und Konformitätspflichten.
• Betreiber: Setzt ein KI-System in eigener Verantwortung ein, ohne es selbst entwickelt zu haben. Typischer Fall: Ein Unternehmen, das eine Personalscreening-KI einkauft und einsetzt.
• Downstream-Nutzer eines GPAI-Modells: Integriert ein Sprach- oder Bildmodell (z. B. ChatGPT, Claude, Gemini, Mistral) in eigene Anwendungen, ohne das Modell selbst zu verändern.

Ein Beispiel zur Verankerung:

Ein Dienstleistungsunternehmen nutzt ChatGPT Enterprise für die Kundenkorrespondenz. Es ist Betreiber eines KI-Systems und Downstream-Nutzer des GPAI-Modells, jedoch kein Anbieter. Relevant werden Transparenzpflichten und interne Nutzungsdokumentation, nicht die GPAI-Anbieterpflichten nach Kapitel V.

Anbieter mit Sitz außerhalb der EU benötigen nach Art. 54 einen Bevollmächtigten in der Union, sofern das Modell nicht unter eine echte Open-Source-Ausnahme fällt.

Fristen im Überblick

Datum	Was gilt
August 2024	Verordnung in Kraft
Februar 2025	Verbotene Praktiken nach Art. 5 (Social Scoring, Predictive Policing, Emotionserkennung am Arbeitsplatz)
2. August 2025	Pflichten für Anbieter von General Purpose AI (GPAI)
2. August 2026	Durchsetzungsbefugnisse der Kommission für GPAI; volle Marktüberwachung
2. August 2027	Hochrisiko-Systeme im privaten Sektor; Übergangsfrist für GPAI-Bestandsmodelle endet
August 2030	Öffentlicher Sektor

EU AI Act Pflichten für Hochrisiko-KI: die sechs Kernanforderungen

Systeme in der Hochrisiko-Klasse lösen nach Art. 8 ff. eine feste Pflichtenliste aus:

1. Risikomanagementsystem über den gesamten Lebenszyklus
2. Datenqualitätsanforderungen an Trainings-, Validierungs- und Testdaten
3. Technische Dokumentation nach Anhang IV
4. Transparenz und Informationen für Betreiber
5. Menschliche Aufsicht durch qualifiziertes Personal
6. Genauigkeit, Robustheit und Cybersicherheit

Wer bereits ein ISMS nach ISO 27001 betreibt, hat bei Risikomanagement, Cybersicherheit und Teilen der technischen Dokumentation inhaltliche Anknüpfungspunkte. Für Unternehmen, die mehrere Frameworks parallel pflegen (ISO 27001, ISO 42001, NIS2, DORA, TISAX), liegt die Integration in ein bestehendes ISMS-Setup in der Regel näher als ein separater AI-Act-Prozess.

GPAI: Was Kapitel V des AI Act bedeutet

Foundation-Modelle wie ChatGPT, Claude, Gemini oder Mistral fallen unter Kapitel V des AI Act. Es ist ein eigenes Regime, das sich von der Hochrisiko-Systematik unterscheidet. Anbieter solcher Modelle müssen nach Art. 53 eine technische Dokumentation, eine Zusammenfassung der Trainingsdaten und eine Urheberrechtsrichtlinie bereitstellen.

Überschreitet ein Modell die Schwelle von 10^25 FLOP beim Trainingsrechenaufwand, gilt es als Modell mit „systemischem Risiko” und muss zusätzliche Pflichten erfüllen: Modellbewertungen, Risikominderung, Incident-Reporting und spezifische Cybersicherheitsmaßnahmen. Die Durchsetzung dieser Pflichten liegt nach Art. 88 ausschließlich bei der Europäischen Kommission; nationale Behörden sind hier nicht zuständig.

Bußgelder: gestaffelte Höchststrafen nach Verstoßart

Der AI Act sieht keine einheitliche Höchststrafe vor, sondern gestaffelte Stufen:

Verstoßart	Anteil Jahresumsatz	Mindestschwelle
Verbotene Praktiken (Art. 5)	7 %	35 Mio. €
GPAI-Verstöße (Art. 101)	3 %	15 Mio. €
Sonstige Verstöße (Art. 99)	3 %	15 Mio. €

Es gilt jeweils der höhere der beiden Beträge. „Sonstige Verstöße” erfasst Pflichtverletzungen bei Hochrisiko-Systemen und Transparenzpflichten.

Zum Vergleich: Die DSGVO kennt bis zu 4 % oder 20 Mio. €. In der EY-Analyse zum AI Act heißt es dazu:

„Als Höchststrafe sind 7 Prozent des gesamten weltweiten Vorjahresumsatzes oder 35 Millionen Euro vorgesehen. Dies übersteigt sogar die möglichen Bußgelder der DSGVO.”

Für Unternehmen mit hohen Umsätzen dominiert die Prozentstufe; die 15 bzw. 35 Millionen wirken dann wie eine Mindestschwelle. Für kleinere Unternehmen greift meist die Millionenschwelle früher als die prozentuale Berechnung.

Fazit

Der erste sinnvolle Schritt ist in den meisten Fällen eine Betroffenheitsanalyse: Welche KI-Systeme sind im Einsatz, in welcher Rolle bewegt sich das Unternehmen, und welche Risikoklasse und Pflichten ergeben sich daraus? Eine Gap-Analyse baut darauf auf, die Anforderungen hängen direkt von der Risikokategorie und der Rolle ab. Für Betreiber niedrigriskanter KI-Systeme bleibt der Aufwand überschaubar; bei Hochrisiko-Systemen und GPAI-Anbietern fällt er deutlich umfangreicher aus.

---

Wir unterstützen Unternehmen bei der Betroffenheitsanalyse und der Umsetzung der EU-AI-Act-Anforderungen: Umsetzungsbegleitung für den AI Act.