Welche KI-Risikostufe gilt für Kanzleien?

I. Hoch-Risiko-System

Die Hochrisiko-KI-Systeme sind in Anhang III der KI-VO definiert. Danach gelten KI-Anwendungen gem. Ziffer 8. a) als hochriskant:

8. Rechtspflege und demokratische Prozesse

a) KI-Systeme, die bestimmungsgemäß von einer oder im Namen einer Justizbehörde verwendet werden sollen, um eine Justizbehörde bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und bei der Anwendung des Rechts auf konkrete Sachverhalte zu unterstützen, oder die auf ähnliche Weise für die alternative Streitbeilegung genutzt werden sollen.

Anwälte und Anwältinnen sind Organe der Rechtspflege. (Bundesrechtsanwaltskammer, Aufgaben und Ziele) Dies entspricht der Überschrift der Nr. 8a) Anhang III der KI-VO, so dass man von einer Anwendung für Kanzleien (In anderen europäischen Staaten haben Anwälte und Anwältinnen ähnliche Stellungen, so dass dies einer solchen Auslegung nicht entgegensteht.) ausgehen könnte.

1. Keine ausdrückliche Aufnahme der Anwaltschaft in Ziffer 8 a) des Anhangs III der KI-VO

In der jetzigen Version der Ziffer 8 Anhang III der KI-VO ist im Gegensatz zum vorherigen Entwurf „KI-Systeme, die… von einer oder im Namen einer Justizbehörde verwendet werden sollen“ aufgenommen worden. In diesem Zusammenhang hätte der europäische Gesetzgeber die Hoch-Risiko-Bewertung für Anwälte und Anwältinnen ausdrücklich regeln können, hat er aber davon abgesehen, so dass man davon ausgehen kann, dass KI-Anwendungen in Kanzleien nicht unter Ziffer 8 a) fallen. (Eine Ausnahme könnte man ggf. in analoger Anwendung der Ziffer 8 a. bei der BGH-Anwaltschaft sehen.)

2. Faktenwahrheit

Diese Auslegung korrespondiert mit der inhaltlichen Ausgestaltung des Anhangs III Ziffer 8 a) KI-VO.

Vom Standpunkt des Gesetzgebers wird es darum gehen, die Tatsächlichkeit und Faktenwahrheit allgemein in der Justiz zu wahren. Daran ist die Anwaltschaft zwar maßgeblich beteiligt, aber nicht wie die Justizbehörden von staatlicher Seite. Die KI-VO stellt insbesondere die Entscheidungsmöglichkeiten durch KI im öffentlichen Bereich in den Fokus. Dies erkennt man schon an der Pflicht zur Grundrechte-Folgenabschätzung (Art. 27 KI-VO) und an der Mehrheit der in Anhang III der Verordnung aktuell aufgeführten Hoch-Risiko-Systemen für staatliche Institutionen.

II. Höheres Risiko

Art. 50 KI-VO kommt in Betracht, wenn die Kanzlei KI-Systeme,

zur Erzeugung synthetischer Audio-, Bild-, Video- oder Textinhalte einsetzt,

die Deepfake (Deepfakes sind realistisch wirkende Medieninhalte, die durch Techniken der künstlichen Intelligenz abgeändert, erzeugt bzw. verfälscht worden sind) sind, oder

Emotionserkennungssysteme zur Anwendung kommen sollen.

Dieser Einsatz von KI wird regelmäßig bei Anwälten und Anwältinnen nicht der Fall sein. Vielmehr haben Kanzleien eher mit dem Thema Deepfake auf Seiten von Mandanten oder Gegnern zu tun oder setzen Tools ein, die Deepfake aufspüren sollen.