Beiträge von: Carsten Patzal

Eine der größten Herausforderungen für den Einsatz generativer KI im juristischen Bereich sind Phänomene, die unmittelbar aus der Architektur, dem Training und der probabilistischen Funktionsweise dieser Technologie resultieren: Halluzinationen, Bias und Sycophancy. Was damit gemeint ist und wie Nutzer diesen Phänomenen mit Hilfe der KI entgegenwirken können, wollen wir in dieser Ausgabe von KI-Praxis betrachten.

Wie bereiten Sie sich auf die Verhandlung vor Gericht vor? Sie lesen die Akte und vergegenwärtigen sich auf diese Weise den Sachvortrag der vertretenen Partei und die juristischen Argumente, die Sie zur Begründung der geltend gemachten Ansprüche oder zur Abwehr der von der Gegenseite erhobenen Ansprüche vorgetragen und begründet haben. Sie machen sich Notizen zu den wichtigsten Tatsachenbehauptungen und Beweisangeboten ihrer Partei sowie zu der rechtlichen Argumentation mit den wesentlichen Argumentationssträngen. Sie wägen die Chancen und Risiken ab und schätzen die Erfolgsaussichten für die eigenen Prozessziele ab. Und Sie überlegen sich auf dieser Basis akzeptabler Einigungsmöglichkeiten und skizzieren mögliche Vergleichspositionen.

Schriftsätze gehören selbstverständlich zum Kanzleialltag. Generative KI wird dort hingegen noch häufig als Fremdkörper wahrgenommen. Dabei kann sie auch in diesem Bereich sinnvoll eingesetzt werden: Sie kann den eigenen Entwurf kritisch gegenlesen, blinde Flecken sichtbar machen und Argumentationslücken aufdecken. Aber KI kann Fehler machen, sie kann halluzinieren, werden Sie nun vielleicht einwenden. Dieser Einwand ist berechtigt. Man könnte also pointiert fragen: Warum dennoch diese Risiken eingehen und mit generativer KI arbeiten, wenn doch alles überprüft werden muss, weil juristisch denken, subsumieren, auslegen und bewerten nur der Mensch verlässlich kann? Die entscheidende Frage ist aber, was daraus folgt.

Die Diskussion um generative KI im juristischen Kontext hat sich in kurzer Zeit deutlich verändert. Während zunächst die Leistungsfähigkeit einzelner Modelle im Vordergrund stand, rückt zunehmend die Frage in den Fokus, wie sich diese Systeme methodisch kontrolliert in juristische Arbeitsprozesse integrieren lassen. Diese Verschiebung ist keineswegs trivial. Sie markiert den Übergang von einer experimentellen Nutzung hin zu einer strukturorientierten Anwendung, bei der nicht mehr die Antwort der KI im Mittelpunkt steht, sondern die Bedingungen, unter denen diese Antwort entsteht.