Sind Verstöße gegen den AI Act abmahnfähig? – Teil 1: Haftung nach allgemeinem Deliktsrecht

Sanktionssystem des AI Act, aktuelle Entwicklungen im Haftungsrecht

Im Zusammenhang mit dem Sanktionssystem des AI Act (siehe Kapitel 12 AI Act (Art. 99–101 AI Act) zu der Verhängung von Geldbußen als mögliche Sanktionen sowie Kapitel 9 AI Act (Art. 72–94 AI Act) zu behördlichen Maßnahmen, die der Beobachtung von bestimmten KI-Systemen nach deren Inverkehrbringen, dem Informationsaustausch und der Marktüberwachung dienen, sowie zu Rechtsbehelfen betroffener Personen) assoziiert man ad hoc die ordnungs- bzw. verwaltungsrechtlich einzuordnenden Eingriffsbefugnisse der Marktüberwachungsbehörden, zuvorderst die Verhängung von Geldbußen, sofern KI-Systeme gegen die Vorgaben des AI Act verstoßen oder sich die relevanten Akteure nicht diesen Vorgaben entsprechend verhalten. (Weiterführend zum verwaltungsrechtlichen Sanktionssystem, insbes. zur Verhängung von Geldbußen Wybitul, NJW 2024, 2641, 2642, insbes. unter II)

Rechtsbehelfe von natürlichen und juristischen Personen wegen „rechtsverletzender KI“ sind im AI Act eher sparsam vorgesehen und beschränken sich auf die in Art. 85–87 AI Act geregelten Befugnisse; (Siehe lediglich: Beschwerderecht (Art. 85 AI Act), Recht auf Erläuterung einer Entscheidung im Einzelfall (Art. 86 AI Act), Meldung von Verstößen und Schutz von Hinweisgebern (Art. 87 AI Act i.V.m. den Vorgaben der Richtlinie (EU) 2019/1937 zum Schutz von Personen, die Verstöße gegen das Unionsrecht melden)) zivilrechtliche Haftungsgrundlagen sind hingegen gar nicht geregelt. Die EU-Kommission hat zudem ihren Vorschlag einer den AI Act flankierenden KI-Haftungsrichtlinie (Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung) v. 22.9.2022, COM(2022) 496 final. Hierzu Bornhard/Siglmüller, RDi 2022, 506) jüngst zurückgezogen (EU-Kommission, COM(2025) 45 final, Anhang IV, Nr. 32.), die das nationale Haftungsrecht insbesondere mit erheblichen Beweiserleichterungen hätte modifizieren sollen.

Haftungstatbestände des nationalen Rechts

Insofern muss ein Rückgriff auf die zivilrechtlichen Haftungstatbestände des nationalen Rechts erfolgen, die dann im Einzelfall auch abmahnfähig sein können, wenn die hierfür notwendigen Voraussetzungen erfüllt sind. In der Praxis sollte dies vor allem dann möglich sein, wenn ein KI-System für eine Rechtsgutsbeeinträchtigung oder ein Schadensereignis zumindest mitverursachend wirkt, sich ein Schädiger für schädigende Handlungen eines KI-Systems bedient oder jemand zumutbare Prüf- und Sicherheitspflichten verletzt, indem er nichts dagegen unternimmt, wenn ein KI-System rechtsverletzenden Output erzeugt oder Rechtsgutsbeeinträchtigungen auf andere Weise vornimmt.

Bei Verstößen gegen den AI Act kommt eine Verfolgbarkeit nach allgemeinem Deliktsrecht (§§ 823, 831, 1004 BGB analog), und dem Lauterkeitsrecht als Sonderdeliktsrecht (§§ 8 ff. UWG) in Betracht. Bezüglich einer lauterkeitsrechtlichen Abmahnfähigkeit liegt die Frage nahe, ob die kürzlich ergangenen Entscheidungen des EuGH (EuGH, 4.10.2024 – C-21/23, K&R 2024, 795 – Lindenapotheke) und BGH (BGH, 27.3.2025 – I ZR 223/19, K&R 2025, 324 – Arzneimittelbestelldaten II; BGH, 27.3.2025 – I ZR 222/19, K&R 2025, 329 – Arzneimittelbestelldaten III) zur Verfolgbarkeit von Datenschutzverstößen über das UWG auf Verstöße gegen den AI Act übertragbar sind. (Hierzu ausführlich im Infobrief)

Künftig mag auch die Produkthaftung ein schärferes Schwert für die zivilrechtliche Sanktionierung von KI-Verstößen sein (Umfassend zur neuen Produkthaftungsrichtlinie, RL (EU) 2024/2853, die im Oktober 2024 verabschiedet worden ist und bis 9.12.2026 von allen Mitgliedstaaten in nationales Recht umzusetzen ist, Ebers, KIR 2025, 252), wenn Software verbindlich in den Anwendungsbereich der gesetzlichen Produkthaftung einbezogen wird. Bei Herstellung und Vertrieb von KI-fehlerbehafteten Produkten wird zudem die deliktische Produzentenhaftung neben der Produkthaftung zu beachten sein. (Allgemein zum Institut der Produzentenhaftung im IT-Kontext, insbes. bei Einsatz von Robotern und KI Leupold/Wiesner, in: Leupold/Wiebe/Glossner, IT-Recht, Teil 9.6.4 Rn 69–79)

Haftungszurechnung – wer haftet?

Schwierigkeiten dürfte in der Praxis die Haftungszurechnung bereiten, respektive die Beantwortung der Frage, wer eigentlich in Anspruch genommen bzw. wem ein rechtsverletzend agierendes KI-System zugerechnet werden kann. Denn Anbieter, Betreiber und die ansonsten im AI Act genannten Akteure, die sich für das Marktangebot von KI-Systemen verantwortlich zeichnen können, werden nicht ohne Weiteres als Verletzter oder allenfalls als Störer für die von KI-Systemen verursachten Rechtsverletzungen in Anspruch genommen werden können. (Die mögliche Störerhaftung von Betreibern generativer KI analysiert Rößling, KIR 2025, 271)

In diesem Zusammenhang stellen sich eine Reihe von weiteren Streitfragen, insbesondere ob bestimmte fehler- oder rechtsgutsbeeinträchtigende Lernfortschritte eines KI-Systems dem Anbieter oder Betreiber dieses Systems zugerechnet werden können, was dann wiederum zu einer Haftung als Störer führen könnte. Zu beachten ist weiter, dass „die KI“ selbst nach einhelliger Meinung keine Rechtspersönlichkeit aufweist und somit auch nicht selbst Rechtsverletzungen begehen kann. Insofern kommt es wie immer auf eine sorgfältige Prüfung der herkömmlichen Kriterien der Haftungszurechnung an. (Eine KI-spezifische Einordnung der Haftungszurechnung versucht Lampe, in: Hoeren/Sieber/Holznagel Handbuch Multimedia-Recht, 62. EL Juni 2024, Teil 29 Rn 14 f.)