Künstliche Intelligenz hilft beim Formulieren, Zusammenfassen und Strukturieren – und genau darin liegt auch das Risiko. Denn je überzeugender der Output wirkt, desto leichter wird übersehen, dass er inhaltlich falsch, unvollständig oder rechtlich heikel sein kann. Im Interview erklärt Tom Braegelmann, welche Fehlannahmen ihm in der Praxis derzeit besonders häufig begegnen, warum gerade sprachlich starke Ergebnisse trügerisch sein können und worauf Anwältinnen und Anwälte beim KI-Einsatz sofort achten sollten.
Welche Entwicklungen in Rechtsprechung und Praxis sind für Anwältinnen und Anwälte beim KI-Einsatz derzeit besonders folgenreich?
Für den Einsatz von KI durch Juristen – insbesondere für Schriftsätze vor Gericht durch Rechtsanwälte, aber auch durch Naturalparteien, soweit kein Anwaltszwang besteht – betont die Rechtsprechung zunehmend, dass sämtliche KI-generierten Ergebnisse, also Fundstellen, Zitate und aufgestellte Rechtssätze, durch einen Menschen zu überprüfen sind. Diese Pflicht folgt für Anwälte aus dem Berufsrecht; sie trifft aber auch Naturalparteien, weil es die Justiz überlasten würde, wenn massenhaft ungeprüfte KI-Texte als Schriftsätze eingereicht würden – was wohl vorkommt, aber wohl nicht so oft, wie befürchtet.
Die Rechtsfolgen einer Verletzung dieser Pflicht sind in Deutschland weniger klar konturiert als etwa in den USA, weil deutsche Gerichte Anwälte für KI-Halluzinationen nicht mit Bußgeldern belegen können. In Betracht kommt bei Anwälten allenfalls ein berufsrechtliches Verfahren vor der Anwaltskammer oder – dogmatisch umstritten – ein versuchter Prozessbetrug. Letzteres ist derzeit eher theoretischer Natur, denn wenn ein Anwalt durch Vorlage von halluzinierten Urteilsfundstellen behauptet, es gäbe entsprechende Rechtsprechung, kann er damit ein Gericht täuschen? Das Gericht kennt doch das Recht. Zu vermuten ist, dass die Anwaltskammern nach Hinweisen durch die Gerichte die Kollegen rügen und auffordern, es zu unterlassen, ungeprüfte KI-Inhalte in Schriftsätzen zu verstecken.
Also, auf absehbare Zeit wird KI nicht fehlerfrei arbeiten, was deshalb irritiert, weil die Ergebnisse häufig perfekt aussehen. Da lauert auch ein Haftungsrisiko. Dass der Output gleichwohl zu überprüfen ist, ist unstreitig; darin sind sich BRAK, Deutscher Anwaltverein und die berufsrechtliche Literatur einig. Für Laien und Naturalparteien stellt das eine besondere Hürde dar, weil sie die inhaltliche Kontrolle häufig nicht leisten können – sei es mangels juristischer Vorbildung, sei es mangels Zugangs zu proprietären Quellen wie Fachzeitschriften und Kommentarliteratur. Richtig eingesetzt kann KI dazu beitragen, dass Anwältinnen und Anwälte weniger juristische Fehler machen. Das muss das Ziel sein.
Zusatz: KI-Einsatz und Täuschung im PrüfungsrechtEs zeichnet sich ab, dass Gerichte bei studentischen Täuschungsversuchen in Prüfungsleistungen eine vergleichsweise strenge Linie verfolgen. Das ist nachvollziehbar, weil die Vorgaben der Universitäten bislang teils zu streng, teils zu unklar gefasst waren. Mittlerweile geben jedoch immer mehr Hochschulen den KI-Einsatz frei, sofern Art und Umfang des Einsatzes offengelegt werden. Insoweit wird sich ein Mittelweg etablieren. |
Welche Fehlannahmen über KI begegnen Ihnen in der anwaltlichen Praxis derzeit am häufigsten und wo wird das schnell haftungsrelevant?
Teilweise sind die Erwartungen schlicht zu hoch. Zunächst nehmen viele an, KI könne praktisch nichts; haben sie ein wenig experimentiert, erwarten sie umgekehrt, sie könne alles in Sekunden erledigen und sämtliche Workflows vollautomatisch abbilden. Dabei sind viele Workflows gar kein KI-Thema, sondern eine Frage gut organisierter Abläufe, die sich mit konventioneller Software abbilden lassen: Sollte die Legacy-eAkte denn eine Schnittstelle zu moderner KI gestatten. Hier ist die Fehlannahme vieler, dass sich eAkte und Legal AI problemlos miteinander verbinden lassen. In der Praxis zeigt sich jedoch, dass diese Anbindung oft deutlich aufwendiger ist als erwartet – was durchaus überrascht. Wenn dann auch noch der gesamte KI-Output durch Menschen zu überprüfen ist, schlägt die Erwartung in Enttäuschung um: „Dann spart es mir doch keine Zeit.“ Doch, es spart Zeit – nur ist die eigentliche Pointe nicht die Zeitersparnis, sondern dass man lästige Arbeitsschritte auf Sekunden verkürzt, freilich um den Preis nachgelagerter Kontrolle statt mühsamen Copy-and-Paste. Das ist das erste Missverständnis.
Das zweite Missverständnis besteht in der Annahme, das eigene Spezialgebiet sei vor dem KI-Einsatz geschützt, weil das Modell mit den Spezialakten oder den Inhalten dieses Rechtsgebiets nicht trainiert worden sei. Das trifft nicht zu: Gute KIs können heute praktisch jedes Rechtsgebiet fachsprachlich auf hohem Niveau abbilden (Betonung auf „abbilden“, verstehen tun die KIs hingegen nichts), sofern der Promptende selbst über das nötige Verständnis samt Kompetenz verfügt. Anwältinnen und Anwälte sind durch ihr Spezialwissen weiterhin im Vorteil, weil sie juristische Sachverhalte tatsächlich durchdringen. Entscheidend ist aber vor allem die Mandantenbeziehung und die Fähigkeit, mehr zu erfassen als das, was in Dokumenten steht – etwa rechtliche und wirtschaftliche Beziehungen sowie Risiken, die nirgendwo schriftlich dokumentiert sind. Es ist allerdings nicht so, dass allgemeine KIs nur generisch schreiben würden; sie lassen sich darauf konditionieren, stilistisch und argumentativ auf dem Niveau der jeweiligen Anwälte zu formulieren. Die berechtigte Erwartung, dass dabei alles inhaltlich richtig sein muss, bleibt jedoch bestehen.
Die Haftungsrisiken liegen entsprechend auf der Hand: ein falsch zusammengefasstes Dokument, übersehene Unterlagen oder ein selbstgebauter, agentischer Workflow vom Dokumentenentwurf bis zum Versand über das besondere elektronische Anwaltspostfach, bei dem am Ende doch ein falsches PDF an das Amtsgericht geht, ohne dass jemand kontrolliert hat. Gleiches gilt, wenn Mandats- oder personenbezogene Daten unbedacht in fremde Systeme gelangen; dann liegt schnell ein Data Breach vor. Wer seine KI-Workflows nicht systematisch durchdacht hat, gerät rasch in haftungs- und datenschutzrechtlich heikles Terrain.
Gibt es schon heute typische Fallkonstellationen, in denen der Einsatz von KI vor Gericht oder im Mandat schnell problematisch werden kann – etwa bei Schriftsätzen, Gutachten oder Prüfungen?
Solche Konstellationen gibt es bereits heute. Wer eine KI nutzt, die nicht an exzellente juristische Quellen – insbesondere Rechtsprechung und Literatur – angebunden ist, riskiert auch bei sehr guten Systemen, dass Fundstellen erfunden oder Entscheidungen blind zitiert werden, die das Modell nur vermeintlich kennt. Solche Fehler bleiben leicht unentdeckt.
Erforderlich ist deshalb ein klar definierter Prüfprozess für KI-Output. Es darf nicht passieren, dass jüngere Mitarbeiter einen Entwurf vorlegen mit der Einschätzung, das sehe doch gut aus, während ältere Partner annehmen, die Jüngeren hätten das schon geprüft. Die Hauptgefahr liegt darin, dass sich am Ende niemand eindeutig für die Prüfung verantwortlich fühlt. Zwar gilt im deutschen Zivilprozess der Grundsatz iura novit curia, sodass das Gericht das Recht selbst kennt; mit einer unhaltbaren rechtlichen Begründung blamiert man sich gleichwohl, und im Zweifel ist sie zugleich haftungsträchtig.
Entsprechendes gilt für die Auswertung von Dokumenten. Viele KIs verarbeiten heute erstaunlich zuverlässig große Dokumentenmengen – etwa hundert Seiten Kontoauszüge in einer Haftungssache oder vergleichbare Unterlagen. Gerade darin liegt die Verführung: Das Ergebnis sieht häufig so überzeugend aus, dass man es ungeprüft übernehmen möchte. Tatsächlich befinden wir uns aber – auch wenn der Eindruck mitunter ein anderer ist – noch nicht in einem vollautomatisierten KI-Modus. Häufig schlägt die anfängliche Skepsis sehr schnell in eine unkritische Übernahme um; auch das ist nicht zulässig.
Wenn Sie Anwältinnen und Anwälten heute drei Punkte nennen müssten, die sie beim KI-Einsatz sofort prüfen sollten: Welche wären das?
Erstens: Haben Sie geklärt, dass Ihre KI berufsrechtskonform eingesetzt werden kann – sowohl nach § 203 StGB als auch nach § 43e BRAO bzw. den entsprechenden Vorschriften anderer freier Berufe? Vergleichbare Regelungen bestehen seit 2017 etwa für Steuerberater, Wirtschaftsprüfer, Notare und Patentanwälte.
Zweitens: Haben Sie geklärt, dass Sie datenschutzrechtlich nach der DSGVO auf der richtigen Seite stehen und mit dem jeweiligen Anbieter eine tragfähige Auftragsverarbeitung nach Art. 28 DSGVO möglich ist?
Drittens: Überprüfen Sie stets, ob der Output – gerade wenn er sprachlich elegant, gelehrt formuliert ist und exquisite Fundstellen zitiert – inhaltlich tatsächlich richtig ist.
Praxiswarnung: Gute Sprache ist kein QualitätsbeweisWir schließen instinktiv von guter Sprache, Länge und Form auf investierte Arbeit. Dieses „Proof of Work“ – also der Eindruck erkennbarer Mühe – ist bei menschlichen Texten eine durchaus tragfähige Heuristik dafür, dass der Text nicht völlig schlecht sein wird. Bei KI verliert diese Heuristik (also: Daumenregel) ihre Aussagekraft. KIs erzeugen in Sekunden oder Minuten Texte, die wie das Resultat intensiver Arbeit aussehen. Sie können hervorragend sein – aber auch in einer Weise fehlerhaft, wie sie ein Mensch in dieser Menge und sprachlichen Geschlossenheit kaum produzieren würde. Niemand würde in einem Schriftsatz zwanzig Fundstellen schlicht erfinden – am Familiengericht beim Amtsgericht Köln ist genau das einmal vorgekommen. Die KI kann also außerordentlich leistungsfähig wirken und zugleich Fehler machen, die in dieser Form menschlich kaum vorkommen. |
Danke, Tom Braegelmann. Klar ist: Nicht die Nutzung von KI an sich wird für Kanzleien zum Problem, sondern ihr unkritischer Einsatz. Wer die Systeme sinnvoll nutzen will, braucht klare Prüfprozesse, realistische Erwartungen und ein Bewusstsein dafür, dass gute Formulierungen noch keine verlässlichen Inhalte garantieren. Im zweiten Teil des Interviews geht es um die rechtliche Vertiefung: um Verträge, Datenschutz, Berufsrecht und die Frage, was Kanzleien mit Blick auf den AI Act jetzt vorbereiten sollten.
Das Gespräch führte Julia Schmidt
