DSGVO-Bußgelder für KI: Überschneidung mit dem AI Act

Der EU AI Act wird ab dem 02.12.2027 durchgesetzt. Die DSGVO wird seit 2018 durchgesetzt — und praktisch jedes bisher dokumentierte Bußgeld gegen ein KI-System stammt aus dem Datenschutzregime, nicht aus dem AI Act. Für die Enforcement-Planung heißt das: Die relevante Sanktionsschiene ist heute die DSGVO, ab Dezember 2027 kommt eine zweite hinzu. Beide bleiben nebeneinander bestehen.

Diese Seite ordnet die zwei Strafrahmen zueinander, klärt die Zuständigkeitsfrage und zeigt an dokumentierten Fällen, welche Verstoßmuster die Datenschutzaufsichten bei KI tatsächlich verfolgen.

Die zwei Strafrahmen im Vergleich

Die Staffelung des AI Act ist im Detail im Beitrag zum Strafrahmen des Art. 99 behandelt. Wichtig für den Vergleich: Die DSGVO-Obergrenze liegt unter der AI-Act-Spitze, aber deutlich über dessen mittlerer Stufe — und die mittlere Stufe ist die, in der die meisten AI-Act-Verfahren landen werden.

Welche DSGVO-Pflichten KI-Systeme typischerweise verletzen

Die obere DSGVO-Stufe (20 Mio. € / 4 %, Art. 83 Abs. 5) greift bei Verstößen gegen die Verarbeitungsgrundsätze des Art. 5, die Rechtsgrundlagen der Art. 6 und 9, die Betroffenenrechte der Art. 12–22 und die Regeln zur Drittlandsübermittlung. Genau dort liegen die typischen Schwachstellen von KI-Systemen:

• Art. 5 Abs. 1 lit. b/c — Zweckbindung und Datenminimierung: Trainingsdaten, die für einen anderen Zweck erhoben wurden, als sie im Modell verwendet werden.
• Art. 6 / Art. 9 — Rechtsgrundlage: fehlende oder unzureichend begründete Grundlage, insbesondere bei biometrischen Daten und bei Web-Scraping als Trainingsquelle.
• Art. 22 — automatisierte Entscheidungen im Einzelfall: Scoring- und Vorauswahl-Systeme ohne wirksame menschliche Beteiligung.
• Art. 13 / 14 — Informationspflichten: Betroffene erfahren nicht, dass und wie ihre Daten in ein Modell eingehen.

Die untere Stufe (10 Mio. € / 2 %, Art. 83 Abs. 4) erfasst unter anderem die fehlende Datenschutz-Folgenabschätzung nach Art. 35 und unzureichende technische und organisatorische Maßnahmen nach Art. 32. Beides ist bei KI-Projekten ein regelmäßiger Befund — die DSFA wird häufig für das Vorgängersystem erstellt und beim Modellwechsel nicht fortgeschrieben.

Warum beide Regime nebeneinander greifen

Der AI Act stellt in Art. 2 Abs. 7 ausdrücklich klar, dass er das Datenschutzrecht der Union unberührt lässt. Es handelt sich nicht um ein Spezialgesetz, das die DSGVO verdrängt, sondern um ein zusätzliches Produktregime mit eigenem Schutzgut: Die DSGVO schützt personenbezogene Daten, der AI Act schützt Gesundheit, Sicherheit und Grundrechte vor den Eigenschaften des Systems selbst. Ein KI-System kann gegen beides verstoßen, ohne dass sich die Tatbestände decken.

Der Grundsatz ne bis in idem (Art. 50 der EU-Grundrechtecharta) verhindert diese Kumulation nicht generell. Der EuGH hat in den Urteilen bpost (C-117/20) und Nordzucker (C-151/20) vom 22.03.2022 präzisiert, unter welchen Bedingungen eine Kumulation von Verfahren und Sanktionen zulässig ist: Die Regeln müssen klar und vorhersehbar sein, die Verfahren koordiniert ablaufen, und die Gesamtbelastung muss im Verhältnis zur Schwere der Zuwiderhandlung verhältnismäßig bleiben. Die Verhältnismäßigkeit der Summe ist also der Prüfpunkt — nicht das Verbot des zweiten Verfahrens.

Der AI Act greift diesen Gedanken auf: Art. 99 Abs. 7 nennt als Bemessungskriterium ausdrücklich, ob gegen denselben Akteur wegen desselben Verstoßes bereits von anderen Marktüberwachungsbehörden Geldbußen verhängt wurden. Wer also zuerst ein DSGVO-Verfahren durchlaufen hat, kann das im AI-Act-Verfahren argumentativ einbringen — automatisch angerechnet wird es nicht.

Zuständigkeit: wer führt welches Verfahren

Für DSGVO-Verstöße bleiben die Datenschutzaufsichten zuständig — in Deutschland die Landesbeauftragten und der BfDI, mit dem Kohärenzverfahren des EDSA bei grenzüberschreitenden Sachverhalten.

Für den AI Act benennen die Mitgliedstaaten Marktüberwachungsbehörden. Für Teile von Annex III — insbesondere biometrische Anwendungen sowie den Einsatz in Strafverfolgung, Migration und Grenzkontrolle sowie in der Justiz — sieht Art. 74 vor, dass die Datenschutzaufsichten diese Rolle übernehmen können. In diesen Bereichen kann also dieselbe Behörde beide Verfahren führen. Das erhöht die Wahrscheinlichkeit koordinierter, aber auch beschleunigter Doppelverfahren. Die Aufstellung der deutschen Behördenlandschaft ist im Beitrag zu den Aufsichtsbehörden in Deutschland beschrieben.

Was die dokumentierte Fallpraxis zeigt

Aus dem AI Act liegen zum jetzigen Zeitpunkt keine Bußgeldentscheidungen vor — die Durchsetzung der Kernpflichten beginnt erst am 02.12.2027. Aussagekräftig sind daher die DSGVO-Verfahren mit KI-Bezug:

• Clearview AI: Die italienische Garante verhängte im Februar 2022 ein Bußgeld von 20 Mio. €, die französische CNIL im Oktober 2022 ebenfalls 20 Mio. €. Kern in beiden Fällen: Gesichtserkennung auf Basis großflächig gescrapter Bilder ohne tragfähige Rechtsgrundlage nach Art. 6 und Art. 9 DSGVO.
• OpenAI: Die Garante verhängte im Dezember 2024 ein Bußgeld von 15 Mio. € gegen OpenAI im Zusammenhang mit ChatGPT; zentrale Beanstandungen betrafen Rechtsgrundlage und Transparenz gegenüber Betroffenen.

Das Muster ist konsistent: sanktioniert wird die Datengrundlage und die Transparenz, nicht die Modellqualität. Genau an dieser Stelle setzt der AI Act mit Art. 10 (Datenqualität) und Art. 13 (Betriebsanleitung) eine zweite, technisch tiefere Anforderungsebene an denselben Sachverhalt.

Konsequenz für die Vorbereitung

Zwei Dokumentationsstränge lassen sich zusammenführen, statt sie doppelt zu führen. Die Grundrechte-Folgenabschätzung nach Art. 27 AI Act ist ausdrücklich als Ergänzung zur DSFA konzipiert: Wo eine DSFA nach Art. 35 DSGVO bereits vorliegt, baut die FRIA darauf auf. Wer beide Verfahren getrennt in unterschiedlichen Abteilungen betreibt, produziert widersprüchliche Aussagen über dasselbe System — und Widersprüche zwischen eigenen Dokumenten sind in einem Verfahren das teuerste Beweismittel gegen die eigene Organisation.

Praktisch heißt das: ein Systeminventar, eine Datenherkunftsdokumentation, eine Risikoakte je System — mit zwei Auswertungssichten. Welche Templates und Nachweise dafür konkret gebraucht werden, behandelt das Compliance-Toolkit auf ki-hochrisiko.de.

Quellen

• Verordnung (EU) 2016/679 (DSGVO), Art. 83
• Verordnung (EU) 2024/1689 (EU AI Act), Art. 2 Abs. 7, Art. 27, Art. 74, Art. 99
• EuGH, Urteile vom 22.03.2022, C-117/20 (bpost) und C-151/20 (Nordzucker)
• Garante per la protezione dei dati personali, Pressemitteilungen zu Clearview AI (Februar 2022) und OpenAI (Dezember 2024)
• CNIL, Sanktionsentscheidung Clearview AI (Oktober 2022)

Mehr Kontext zum EU AI Act gesamt und zur Pflichtenlage: Leitfaden auf eu-ai-verordnung.de.

Trust-Infrastructure systematisch aufbauen statt reaktiv auf Enforcement reagieren — mehr unter aegira.ai.