KI im Einklang mit geltendem Recht

• Der AI Act ist das erste umfassende KI-Gesetz und regelt neben den grundlegenden Pflichten alle Vorgaben an Anbieter, Betreiber, Bevollmächtigte, Händler und Einführer. Er gilt weit reichend für KI-Systeme und Modelle mit allgemeinem Verwendungszweck, darunter auch LLMs, und unterscheidet nach Risikostufen mit jeweils unterschiedlichen Anforderungen.
• Bei Verstößen drohen Bußgelder und zusätzliche rechtliche Risiken. Der AI Act ist mit Produktsicherheitsanforderungen verzahnt, zusätzlich ergänzen der Data Act und der DSA Anforderungen an KI-Systeme und -Modelle.
• Die DSGVO bleibt auch bei generativer KI von zentraler Bedeutung und ergänzt den AI Act mit Vorgaben zu Datenschutz, Transparenz und Technikgestaltung. Datenschutzrechtliche Anforderungen gelten für alle Phasen des KI-Lebenszyklus von der Datenaufbereitung bis zum Einsatz.
• Personenbezug der Daten bestimmt die rechtliche Relevanz; selbst Trainingsdaten können datenschutzrechtlich kritisch sein. Eine belastbare Rechtsgrundlage, eindeutige Verantwortlichkeiten und eine offene Kommunikation legen den Grundstein, eine Schnittmenge ergibt sich auch bei der Betrachtung der Arbeitgeberrolle.
• Der Einsatz generativer KI im Anwaltskontext unterliegt dem bekannten Berufs- und Rechtsdienstleistungsrecht, die keine spezifischen KI-Regelungen kennen. Insbesondere eigenständige rechtliche Bewertungen durch KI können gegen Berufsrecht verstoßen und/oder einer Erlaubnispflicht nach dem RDG unterliegen.
• Rechtsanwälte haften persönlich für die Fehler der KI und müssen die Ergebnisse daher eigenverantwortlich prüfen. Zudem bestehen hohe Anforderungen an Verschwiegenheit, Datenschutz und Transparenz, die insbesondere cloudbasierte Systeme und den Umgang mit sensiblen Mandatsdaten vor Herausforderungen stellen.

Die Herausforderung, den Einsatz von KI mit den Anforderungen des geltenden Rechts in Einklang zu bringen, erscheint auf den ersten Blick wie eine Mammutaufgabe. KI gestützte Systeme benötigen in ihrer Entwicklungsphase große Mengen an Trainingsdaten, und wer später brauchbare Antworten will, muss die richtigen Fragen stellen; für qualitativ hochwertige Ergebnisse sind präzise Informationen in den Prompts unerlässlich. Doch während die Nutzung solcher Daten für den Erfolg der KI-Modelle entscheidend ist, stellt das geltende Recht hohe Hürden. So erlaubt etwa die DSGVO die Verarbeitung personenbezogener Daten nur unter strengen Voraussetzungen – ein ständiger Spagat zwischen technischer Machbarkeit und rechtlicher Zulässigkeit.

Mit dem richtigen Know-how und gezielten Strategien wird diese Herausforderung jedoch gut zu bewältigen sein. Dabei ist ein Überblick über die spezifischen gesetzlichen Anforderungen für einen rechtskonformen KI-Einsatz unerlässlich.

Ein Auszug aus dem Buch Garling/Niemann/Roßmann, Generative KI in der Rechtsberatung, 1. Auflage, 2025, S 149-150.

Eine weitere kostenlose Leseprobe finden Sie in unserer Onlinebibliothek Anwaltspraxis Wissen