B. Der Einsatz von KI und algorithmischen Systemen in der Justiz

Die Präsidentinnen und Präsidenten der Oberlandesgerichte, des Kammergerichts, des Bayerischen Obersten Landesgerichts und des Bundesgerichtshofs haben sich mit dem Einsatz von KI und algorithmischen Systemen in der Justiz befasst. Durch eine Arbeitsgruppe wurde ein Grundlagenpapier erarbeitet, das auf der 74. Tagung der Präsidentinnen und Präsidenten der Oberlandesgerichte der ordentlichen Gerichtsbarkeit einstimmig angenommen wurde. Im Folgenden sollen die wichtigsten Thesen des Grundlagenpapiers dargestellt werden.

In dem Grundlagenpapier wird klargestellt, dass es keine allgemeinverbindliche Definition von Künstlicher Intelligenz (KI) gibt. Es wird darauf hingewiesen, dass der Begriff KI eine starke Ausweitung erfahren hat. Beispielsweise wird über den Einsatz von KI berichtet, wenn tatsächlich Anwendungen, die statistische Verfahren nutzen, zum Einsatz kommen. Um eine weitere Verwässerung des Begriffs KI zu vermeiden und trotzdem eine möglichst umfassende Betrachtung der weiteren Potenziale der Digitalisierung der Justiz vornehmen zu können, entschied die Arbeitsgruppe, in die Untersuchung neben KI-Anwendungen auch algorithmische Systeme einzubeziehen. Der Begriff „Algorithmus“ beschreibt eine eindeutige Handlungsvorschrift zur Lösung eines Problems. Bei einem algorithmischen System handelt es sich somit um ein Computerprogramm, das ein Problem löst, indem es aufgrund der Eingabedaten strukturierte Einzelschritte zu ihrer Bearbeitung aufführt und sodann eine Lösung ausgibt. Auch die von der vorherigen Bundesregierung eingesetzte Datenethikkommission hatte zuvor ihre Ausführungen zu den ethischen Maßstäben und Leitlinien sowie konkreten Handlungsempfehlungen für den Schutz des Einzelnen, die Wahrung des gesellschaftlichen Zusammenlebens und zur Sicherung und Förderung des Wohlstands im Informationszeitalter auf alle Arten der algorithmischen Systeme erstreckt, da sie davon ausging, dass das gesamte sozio-technische System betrachtet werden muss.

In dem Grundlagenpapier erfolgt eine eindeutige Stellungnahme gegen den sog. „Robo-Judge“. Es wird klargestellt, dass es technisch aktuell nicht realisierbar erscheint, die für eine Rechtsautomation notwendige explizite Repräsentation von komplexem juristischem Wissen zu schaffen, Modellierung und Operationalisierung von Subsumtionsvorgängen und unbestimmten Rechtsbegriffen vorzunehmen bzw. Anwendungen, die nicht-triviale Zusammenhänge „verstehen“, zu entwickeln.

Unter Verweis auf die Recherchen von Herr Prof. Herberger wird darauf hingewiesen, dass estnische KI-Richter sich inzwischen als Fake-News entpuppt hat. Tatsächlich arbeitet man auch in Estland lediglich daran zu prüfen, ob und wie Informations- und Kommunikationstechnologien zur Unterstützung der richterlichen Tätigkeit nutzbar gemacht werden können.

In dem Grundlagenpapier wird eindeutig klargestellt, dass der Einsatz eines algorithmischen Systems anstelle eines Richters als natürliche Person zur abschließenden Entscheidungsfindung unzulässig ist.

Dies ergibt sich aus Art. 92 Hs. 1 GG „Ausübung der rechtsprechenden Gewalt durch Richter“. Aus dessen personalen Element folgt, dass die Entscheidung durch einen menschlichen Richter unmittelbar getroffen und verantwortet werden muss. Dies ergibt sich einfachgesetzlich z.B. aus §§ 1, 2, 5, 5a ff, 9 Nr. 4, 25 f., 27 Abs. 1, 38 Abs. 1 DRiG oder § 348 Abs. 1 S. 1 ZPO. Aus seinem institutionellen Element ergibt sich, dass die Rechtsprechung als öffentliche Aufgabe in öffentlicher Hand liegen muss. Privatwirtschaftliche Unternehmen, die KI und algorithmische Systeme entwickeln, dürfen hierdurch nicht in die Kernbereiche der rechtsprechenden Gewalt einwirken.

Aus dem Recht auf den gesetzlichen Richter aus Art. 101 Abs. 1 S. 2 GG ergibt sich, dass keine Richter, die nicht den Anforderungen des Art. 92 GG genügen, zu einer gerichtlichen Entscheidung berufen werden dürfen. Der Einsatz eines algorithmischen Systems würde somit auch gegen Art. 101 Abs. 1 S. 2 GG verstoßen.

Aus Art. 103 GG ergibt sich das Recht der Parteien auf rechtliches Gehör. Bei einer Vollautomatisierung des Verfahrens wäre dieses nicht gewährt, so dass sie auch gemäß Art. 103 GG ausscheidet. Neben dem Recht auf rechtliches Gehör folgt auch aus dem Recht auf ein faires Verfahren, das aus Art. 1 Abs. 1 GG bzw. Art. 1 Abs. 1 GG i.V.m. Art. 2 Abs. 1 GG und dem Rechtsstaatsprinzip des Art. 20 Abs. 3 bzw. aus Art. 6 EMRK hergeleitet wird, dass die Einzelperson nicht nur Objekt des Verfahrens sein darf. Auch dies schließt den Einsatz eines algorithmischen Systems als Richter aus.

Auch wenn die vorstehend genannten Vorschriften teilweise nicht für die Tätigkeit der Rechtspfleger gelten, wird in dem Grundlagenpapier mehrfach klargestellt, dass jedenfalls ihr Rechtsgedanke Anwendung findet und eine Vollautomatisierung der Rechtspflegertätigkeit ebenfalls ausgeschlossen ist.

In dem Grundlagenpapier wird darauf hingewiesen, dass es dem Gesetzgeber freisteht, Randbereiche aus dem richterlichen oder rechtspflegerischen Aufgabenbereich auszunehmen und hierdurch ihre Vollautomatisierung zu ermöglichen.

In dem Grundlagenpapier wird herausgearbeitet, dass algorithmische Systeme ein großes Potential zur Unterstützung der gerichtlichen Entscheidungsfindung haben. Der Einsatz von algorithmischen Systemen in stark formalisierten und standardisierten Verfahrensbereichen, bei denen wertende Entscheidungen nicht im Vordergrund stehen, wird als technisch möglich und sinnvoll erachtet. Zugleich werden aber auch im Rahmen des unterstützenden Einsatzes von KI und algorithmischen Systemen die rechtlichen und ethischen Grenzen deutlich gemacht.

Die OLG-Präsidentinnen und Präsidenten positionieren sich dahingehend, dass determinierte, statische bzw. rein regelbasierte Systeme zur Unterstützung der Entscheidungsfindung eingesetzt werden dürfen. Der Richter muss das Ergebnis inhaltlich voll nachvollziehen und es sich bewusst zu eigen machen, um es in der Entscheidungsbegründung verwenden zu können. Die Ergebnisse von „Black-Box“-Systemen können nicht vollständig nachvollzogen werden. Sie dürfen somit nicht Grundlagen von vorbereitenden oder Endentscheidungen von Richtern sein. Sie können jedoch zur Unterstützung von vorbereitenden Tätigkeiten, z.B. zur Metadatenextraktion, eingesetzt werden. Der Begriff „Metadaten“ beschreibt strukturierte Daten, die Informationen über Merkmale anderer Daten enthalten. Gemäß § 2 ERVV soll bei einer elektronischen Einreichung ein Metadatensatz im XML-Format beigefügt werden, der mindestens die folgenden Informationen enthält: die Bezeichnung des Gerichts, die Bezeichnung der Parteien oder Verfahrensbeteiligten, den Verfahrensgegenstand sowie, sofern bekannt, das Aktenzeichen des Verfahrens und das Aktenzeichen eines denselben Gegenstand betreffenden Verfahrens und die aktenführende Stelle (etwa ein anderes Gericht oder eine Behörde) dieses Verfahrens. Aus eingescannten Papierdokumenten können diese Metadaten KI-unterstützt extrahiert werden.

Eine große Herausforderung im Rahmen der Entwicklung von mit Maschine-Learning arbeitenden Anwendungen ist die Verfügbarkeit der notwendigen Trainingsdaten. Beim Machine-Learning bzw. maschinellen Lernen wird maschinelles Wissen aus Erfahrung generiert. Die Anwendungen sind in der Lage, durch das Training mit großen Datenmengen (Big Data) und unter Aufwendung erheblicher Rechenleistungen zu lernen. Um dies zu ermöglichen, wird in dem Grundlagenpapier angeregt, einen gemeinsamen Datenpool mit Schnittstellen zu allen drei E-Akten-Systemen zu schaffen. Zum Training von durch die Gerichte genutzten Anwendungen sind insbesondere die Schriftsätze der Parteien von Interesse.

In dem Grundlagenpapier findet sich eine Übersicht über die laufenden und geplanten Projekte zum Einsatz von KI und algorithmischen Systemen in der deutschen Justiz. So werden z.B. mehrere Projekte zur effizienteren Bearbeitung von Massenverfahren, ein Projekt zur automatischen Anonymisierung von Gerichtsentscheidungen, ein Projekt zur Metadatenextraktion (s.o.), ein Projekt zur Entwicklung eines Chatbots für die Rechtsantragstelle und ein Projekt zur Schaffung digitaler Klagewege dargestellt. Zudem werden potenzielle weitere Einsatzfelder vorgestellt und bewertet, ob entsprechende Projekte wünschenswert sind. Die OLG-Präsidentinnen und Präsidenten rufen die Landesjustizverwaltungen und das BMJ dazu auf, weitere Pilotprojekte zu unterstützen, die hierfür benötigten personellen und sächlichen Ressourcen zeitnah zur Verfügung zu stellen und die rechtlichen Rahmenbedingungen zu schaffen. Diese sollen es ermöglichen, neue gute Projektideen kurzfristig umzusetzen

Es ist sehr erfreulich, dass die Präsidentinnen und Präsidenten der Oberlandesgerichte, des Kammergerichts, des Bayerischen Obersten Landesgerichts und des Bundesgerichtshofs sich im Anschluss an das Diskussionspapier zur Modernisierung des Zivilprozesses auf der 73. Jahrestagung entschieden, sich des Zukunftsthemas der Nutzbarmachung von KI in der Justiz durch eine gesonderte Arbeitsgruppe anzunehmen. In dem Grundlagenpapier positionieren sich die OLG-Präsidentinnen und Präsidenten eindeutig und räumen zugleich mit teilweise verbreiteten Fehlvorstellungen über den Einsatz von KI oder algorithmischen Systemen in der Justiz auf.