Schulungspflichten nach dem AI Act: Alter Wein in neuen Schläuchen?

Mit Inkrafttreten des AI Act (Artificial Intelligence Act) rückt eine Thematik in den Fokus, die bei vielen Unternehmen und Verantwortlichen für Verunsicherung sorgt: die Pflicht zur Schulung im Umgang mit Künstlicher Intelligenz. Nach Art. 4 Abs. 1 lit. f AI Act müssen Anbieter und Betreiber von KI-Systemen sicherstellen, dass relevante Mitarbeitende angemessen geschult sind. Doch während diese Regelung als neue Compliance-Anforderung wahrgenommen wird (Dubovitskaya, KI-Compliance aus Betreibersicht, AG 2024, 877, 881; Fleck, AI literacy als Rechtsbegriff – Anforderungen an die KI-Kompetenz nach Art. 4 KI-VO, KIR 2024, 99, 103), ergibt sich eine vergleichbare Schulungspflicht bereits aus bestehenden allgemeinen Vorschriften.

Schulungspflichten aus bestehendem Recht

Auch ohne den AI Act besteht bereits eine generelle Verpflichtung für Unternehmen, sicherzustellen, dass ihre Mitarbeitenden in relevanten Compliance-Themen geschult sind. Insbesondere aus folgenden Normen ergibt sich eine entsprechende Anforderung:

• 91 Abs. 2, 3, 93 Abs. 1 AktG: Aktiengesellschaften sind verpflichtet, ein angemessenes Risikomanagement- und Überwachungssystem einzurichten, und deren Vorstände haben die Einhaltung von Recht und Gesetz sowie die Etablierung wirksamer Kontrollmechanismen sicherzustellen (Hoffmann/Schieffer, Pflichten des Vorstandes bei der Ausgestaltung einer ordnungsgemäßen Compliance-Organisation, NZG 2017, 401, 402), was auch Compliance Systeme und Schulungsmaßnahmen umfassen kann.
• 130 Abs. 1 OWiG: Nach dieser Vorschrift kann eine Aufsichtspflichtverletzung vorliegen, wenn „Inhaber eines Betriebes oder Unternehmens“ nicht dafür sorgen, dass ihre Mitarbeitenden die gesetzlichen Vorschriften einhalten – hierzu gehört auch die Vermittlung des erforderlichen Wissens. (BeckOK-OWiG/Beck, § 130 Rn 63)
• 43 Abs. 1 GmbHG: Geschäftsführer einer GmbH haben ihre Aufgaben mit der Sorgfalt eines ordentlichen Geschäftsmanns wahrzunehmen, wozu auch die Schulung der Mitarbeitenden gehören kann, wenn dies zur Vermeidung von Rechtsverstößen erforderlich ist. (Fleischer, in: MüKo zum GmbH-Gesetz, § 43 Rn 169; OLG Frankfurt, Urt. v. 23.5.2019 – 5 U 21/18, GmbHR 2019, 940, 945)

Diese Vorschriften zeigen, dass Unternehmen bereits heute Schulungen in vielen Bereichen durchführen müssen – sei es zum Datenschutz, zur Geldwäscheprävention oder zum Arbeitsschutz. Die Schulungspflicht nach dem AI Act ist also nicht grundlegend neu, sondern vielmehr eine Spezifizierung bestehender Governance- und Compliance-Verpflichtungen. Auch ohne diese konkrete Anforderung müssten Unternehmen ihre Schulungen oder Compliance Systeme entsprechend auf KI erweitern.

Erfüllung der Schulungspflicht

Die Anforderungen des AI Act lassen sich auf verschiedene Weise umsetzen. Unternehmen haben mehrere Möglichkeiten, ihrer Schulungspflicht nachzukommen:

1. externe Schulungen: Die Teilnahme an spezialisierten Seminaren oder Webinaren kann eine effiziente Möglichkeit sein, Wissen zu vermitteln.
2. interne Schulungen und Workshops: Unternehmen können eigene Fortbildungen organisieren, die spezifisch auf den Einsatz von KI in ihrem Tätigkeitsbereich zugeschnitten sind.
3. Handlungsanweisungen und Leitlinien: Neben formalen Schulungen können auch detaillierte schriftliche Anweisungen oder Leitfäden eine Möglichkeit darstellen, Mitarbeitende zu unterweisen.

Entscheidend ist, dass die Schulungsmaßnahmen inhaltlich angemessen sind, dokumentiert werden und regelmäßig aktualisiert werden. Damit eine Schulung oder Handlungsanweisung den gesetzlichen Anforderungen genügt, sollten folgende Themen berücksichtigt werden (Vgl. Schippel, Trainingsvorgaben: Wie kann man KI-Kompetenz nach Art. 4 KI-VO vermitteln?, KIR 2025, 119, 123):

• Grundlagen des AI Act: Überblick über Regelungen, Klassifizierung von KI-Systemen und Verantwortlichkeiten.
• Spezifische Pflichten für das Unternehmen: Welche Vorgaben gelten für den konkreten Einsatzbereich der KI im Einzelfall?
• Risikomanagement und Compliance-Anforderungen: Anforderungen an Dokumentation, Transparenz, Urheberrecht und Sicherheitsmaßnahmen.
• Haftungsrisiken: mögliche rechtliche Konsequenzen bei Nichteinhaltung.
• Technische und ethische Aspekte: Bias-Vermeidung, Datenschutz (Siehe zum Thema Datenschutz auch: Datenschutz vs. KI – Wie lassen sich moderne Technologien rechtssicher nutzen? – JUN Legal GmbH) und Transparenz.

Eine Schulung sollte dabei nicht nur juristische Aspekte abdecken, sondern auch technische und organisatorische Maßnahmen sowie Praxisbeispiele enthalten.

Folgen bei Verstößen

Die Nichtbeachtung der Schulungspflichten kann erhebliche Konsequenzen haben:

• Bußgelder nach dem AI Act: Art. 99 verpflichtet die Mitgliedstaaten, wirksame, verhältnismäßige und abschreckende Sanktionen für Verstöße gegen die Verordnung, also auch die Schulungspflichten, festzulegen, eine direkte Bußgeldfolge aus dem AI Act besteht für Art. 4 aber nicht.
• Haftung der Geschäftsleitung: Unterlassen Führungskräfte notwendige Schulungen, drohen Haftungsrisiken nach § 43 GmbHG oder § 93 AktG.
• Ordnungswidrigkeiten nach § 130 OWiG: Werden Verstöße aufgrund unzureichender Schulung möglich, können Bußgelder bis zu 1 Million EUR verhängt werden.

Außerdem kann eine Haftung entstehen, sobald Schäden auftreten, die auf eine unzureichende Schulung zurückzuführen sind.

Empfehlung

Die Schulungspflichten zur KI sollten ernst genommen, aber nicht isoliert allein auf Grundlage des AI Act betrachtet werden. Unternehmen, die bereits ein funktionierendes Compliance- und Risikomanagementsystem haben, können die neuen Anforderungen oft durch Anpassung bestehender Prozesse erfüllen. Wir empfehlen beispielsweise in der Praxis einen KI-Kickoff Termin sowie die begleitende Erstellung eines Code of Conduct zu diesem Thema. Letztlich bleibt Schulung eine essenzielle Maßnahme, um rechtliche Risiken zu minimieren – unabhängig davon, ob sie nun explizit durch den AI Act oder bereits durch bestehende Gesetze erforderlich ist.

Bei diesem Beitrag handelt es sich um einen Auszug aus der ersten Ausgabe des Infobriefs „KI und Digitalisierung: Zur Zukunft des Rechts“, S. 5-7. Mit dem kostenlosen Probeabonnement erhalten Sie die Ausgaben eins und zwei des Infobriefes kostenfrei – erfahren Sie mehr hier: https://www.anwaltverlag.de/rechtsgebiete/rechtsgebiete-von-a-bis-z/berufsrecht/3268/infobrief-ki-und-digitalisierung-zur-zukunft-des-rechts?number=IBKI