Die KI-Verordnung der Europäischen Union (KI-VO) ist am 1. August 2024 in Kraft getreten. Diese legt einheitliche Regeln für die Nutzung von künstlicher Intelligenz (KI) fest.
Das Ziel der Verordnung ist es, Innovationen zu fördern, gleichzeitig aber Sicherheit zu gewährleisten und Grundrechte zu schützen. Dafür folgt die Verordnung einem risikobasierten Ansatz: KI-Systeme werden je nach Risiko in verschiedene Kategorien eingeteilt. Das Inkrafttreten verschiedener Regelungen erfolgt schrittweise, also nach verschiedenen Zeitfenstern.
Bereits bestehende Anforderungen
Zeitig sehr schnell sind die Kapitel I und II und somit Artikel 4 der KI-VO in Kraft getreten; die dortigen Regelungen gelten seit dem 02.02.2025. Und das hat insbesondere auch Auswirkungen auf die Rechtsanwaltschaft. Denn Rechtsanwälte, die KI-Systeme in eigener Verantwortung in ihrer Anwaltskanzlei verwenden, sind nach Art. 4 der KI-VO Anbieter und Betreiber von KI-Systemen. Damit geht die Verpflichtung einher, sicherzustellen, dass das Personal – das die Systeme nutzt – über ausreichende Kenntnisse und Kompetenzen im Umgang mit KI-Systemen verfügt.
Die Vorschrift hat folgenden Wortlaut:
„Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“
Ausreichende KI-Kompetenz ist also gefordert. Und was heißt das jetzt genau?
Der Begriff „KI-Kompetenz“ ist in Art. 3 Nr. 56 KI-VO definiert und zwar als Fähigkeit,
„… die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung [ermöglicht], KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“
„Was“ ist zu schulen?
Die konkrete Tiefe der Schulungen bleibt ungewiss – detaillierte Angaben fehlen. Die Verordnung spricht nur ganz allgemein von Maßnahmen, um nach „besten Kräften“ sicherzustellen, dass das Personal sich der Chancen, Risiken und möglichen Schäden durch KI bewusst ist. Allerdings lässt sich auf Basis der KI-VO doch einiges ableiten:
Zunächst ist eine Grundlagenschulung für alle Mitarbeitenden erforderlich, die ein Verständnis der Funktionsweise von KI, insbesondere von Sprachmodellen wie ChatGPT, schaffen muss. Hierzu gehört insbesondere die Sensibilisierung für Risiken, insbesondere für fehlerhafte Ergebnisse (sogenannte „Halluzinationen“) und die Gefahr des Verstoßes gegen den Datenschutz: Im Ergebnis muss so ein sicherer Einsatz von KI-Tools im Arbeitsalltag geschaffen werden, der zugleich dazu führt, dass problematische KI-Ergebnisse erkannt und zur Prüfung an Fachverantwortliche weitergeleitet werden.
Gerade aber auch Berufsträgerinnen und Berufsträger müssen mit Blick auf ihre persönliche Verantwortung mit KI geschult werden; ihnen muss die Verpflichtung zur eigenverantwortlichen Endkontrolle von KI-generierten Inhalten bewusst werden. Dabei sind auch berufsrechtliche Anforderungen wie etwa die (berufliche) Verschwiegenheit zu beachten.
Für IT- und Compliance-Beauftragte sollte der Rahmen der Schulung noch um technische Schutzmaßnahmen, insbesondere im Umgang mit Cloud-Diensten und KI-Anbietern, erweitert werden.
Schulungen sind das eine – sie so aufzubauen, dass die wichtigen Punkte in den Köpfen bleiben, das andere. Deshalb sollten Schulungen praxisnah gestaltet sein und praktische Anwendungen mit Fallbeispielen – am besten ganz konkret aus der Kanzleipraxis – enthalten. Hierin eingeschlossen sollten Testfälle sein, die die Problematik von Fehlern verdeutlichen bzw. das Halluzinieren aufzeigen.
Und dabei darf es auch nicht bleiben: KI entwickelt sich ständig und ziemlich schnell weiter – auch die Anforderungen an Schulungen werden angepasst werden, sodass eine einmalige Schulung nicht ausreichen wird. Der Stand der Entwicklungen muss im Auge behalten werden und zu gegebener Zeit sind Schulungen zu wiederholen, aufzufrischen bzw. zu ergänzen.
Fazit:
Für Rechtsanwaltskanzleien, die KI-Tools nutzen, ist die Schulung zum Erhalt der KI-Kompetenz seit dem 02.02.2025 Pflicht. Wichtig ist eine praxisnahe Sensibilisierung für Risiken, insbesondere im Bereich Datenschutz, Verschwiegenheit und inhaltlicher Fehler. Regelmäßige Fortbildungen sind notwendig, da sich KI-Technologien und gesetzliche Vorgaben dynamisch entwickeln.
