Studentischer Mitarbeiter, JUN Legal GmbH, Würzburg
Ein Rechtsanwalt lädt Arbeitsvertrag, Kündigungsschreiben und Auszüge aus der Personalakte in ein klassisches großes KI-Sprachmodell (LLM) wie ChatGPT und lässt sich den Entwurf der Klageschrift erstellen. Das Ergebnis ist sauber gegliedert, im Ton stimmig, aber stützt sich mehrmals auf eine nicht existierende Entscheidung des BAG. Dieses Beispiel steht stellvertretend für die Problematik des KI-Einsatzes im Kanzleikontext. Es bietet sich an, sich diesem Problem entlang von zwei Fragen zu nähern. Was darf in ein LLM eingegeben werden, um zu einem Arbeitsergebnis zu gelangen (I.), und wie ist mit den generierten Arbeitsergebnissen umzugehen (II.)? Gleichwohl kann und soll dieser Beitrag nur eine Orientierungshilfe sein und keinen Anspruch auf Vollständigkeit erheben. Im Folgenden wird der Regelfall eines extern betriebenen Modells im Standardangebot des Anbieters zugrunde gelegt. Souveräne oder selbst betriebene Modelle und individuell verhandelte Zusatzabreden bleiben außer Betracht. Ein Folgebeitrag wird den aktuellen Stand des KI-Tool-Markts aufbereiten und an geeigneter Stelle auf hier nicht behandelte Spezialfälle eingehen.
Der Input in das Modell
Zentraler Ausgangspunkt für die LLM-Nutzung ist die anwaltliche Verschwiegenheit nach § 43a Abs. 2 BRAO. Die unbefugte Offenbarung eines anvertrauten fremden Geheimnisses ist zugleich strafrechtlich gem. § 203 Abs. 1 Nr. 3 StGB abgesichert. Im Regelfall wird kein eigenes oder lokal gehostetes Modell ohne Datenübertragung ins Internet verwendet, sondern es erfolgt der Rückgriff auf einen externen Dienstleister, dem die (mandatsspezifischen) Daten übermittelt werden. Damit werden Privatgeheimnisse i.S.v. § 203 Abs. 1 StGB offenbart. Auf eine tatsächliche Kenntnisnahme kommt es dabei nicht an, da bereits die eröffnete Möglichkeit der Kenntnisnahme erfasst ist und ein Offenbaren auch bei rein automatisierter Verarbeitung vorliegt. Für § 43a Abs. 2 BRAO gilt dasselbe. Das Argument, die KI lese ja nicht mit, trägt deshalb nicht.
Nach § 203 Abs. 3 S. 2 StGB ist ein Offenbaren gegenüber sonstigen Personen, die an der beruflichen Tätigkeit mitwirken, erlaubt, soweit es zur Inanspruchnahme ihrer Tätigkeit erforderlich ist. Berufsrechtlich gilt, dass Mandanteninformationen an externe Anbieter von KI-Tools nur unter den Voraussetzungen des § 43e BRAO offenbart werden dürfen. Zudem ist zu beachten, dass neben den Anforderungen des § 43e BRAO gem. § 43e Abs. 8 BRAO auch die Vorschriften zum Schutz personenbezogener Daten eingehalten werden müssen.
§ 43e BRAO verlangt im Einzelnen eine sorgfältige Auswahl des Dienstleisters, für die Zertifizierungen der ISO-27000er-Reihe einen Anhaltspunkt bieten können, eine vertragliche Vereinbarung in Textform mit Verschwiegenheitsverpflichtung, Beschränkung der Informationsnutzung und Regelung zu Subunternehmern nebst Belehrung über die strafrechtlichen Folgen, bei ausländischen Dienstleistern einen dem inländischen vergleichbaren Geheimnisschutz und, soweit die Dienstleistung unmittelbar für ein bestimmtes Mandat in Anspruch genommen wird, die Einwilligung des Mandanten nach Abs. 5.
Eine solche Vereinbarung ist insbesondere im Verhältnis zu den klassischen proprietären LLM-Anbietern das praktische Problem, wohingegen deutsche Legal-Tech-Startups oder spezialisierte Anbieter sich in dieser Hinsicht kooperativer zeigen. Ohne die Vereinbarung ist eine Zusammenarbeit aber berufsrechtlich nicht möglich. Das übliche datenschutzrechtliche Vertragsrepertoire wird den Anforderungen des § 43e Abs. 3 BRAO in der Regel nicht gerecht, weder die Standardvertragsklauseln für den Auftragsverarbeitungsvertrag noch die Standardvertragsklauseln für Drittlandübermittlungen. Praktisch ist dies der Engpass. Den Auftragsverarbeitungsvertrag bieten Business-Tarife an, die berufsrechtliche Zusatzvereinbarung nur wenige Anbieter.
Umstritten ist innerhalb dieses Rahmens vor allem das Merkmal der Erforderlichkeit in § 43e Abs. 1 S. 1 BRAO. Die BRAK hält die Übermittlung von Mandatsgeheimnissen an Anbieter von Sprachmodellen wie ChatGPT nach dem aktuellen Stand der Technik für nicht erforderlich, weil eine Nutzung auch ohne diese Daten möglich sei. Der DAV bezieht das Merkmal auf den Umfang der Offenbarung und überlässt die Entscheidung über das Ob der unternehmerischen Freiheit der Berufsträger. Allerdings müssen dabei zumutbare und angemessene Sicherungsmaßnahmen ergriffen werden, um die Kenntnisnahme des Dienstleisters auf das tatsächlich Erforderliche zu beschränken. Beide Papiere sind rechtlich unverbindlich. Für die Praxis lässt sich der Streit teilweise entschärfen, weil beide Papiere übereinstimmend Grenzen ziehen. Frei im Internet verfügbare KI-Tools sind mangels Dienstleistereinbindung nach § 43e BRAO für Mandatsgeheimnisse ungeeignet, es sei denn, die Inhalte werden vorher vollständig anonymisiert. Werden Daten an einen vertraglich eingebundenen KI-Dienstleister übermittelt, muss vertraglich ausgeschlossen werden, dass sie zu Trainingszwecken genutzt werden. Selbst der Einsatz externer KI-Systeme zur Bearbeitung großer Schriftsatzmengen in Massenverfahren gilt dem DAV zufolge dagegen als erforderlich. Jedenfalls ist es bei klassischen, nicht besonders vertraglich eingebundenen KI-Tools geboten, nur mit allgemeinen Informationen zu arbeiten, die keinen Rückschluss auf ein konkretes Mandat zulassen.
Das größte praktische Risiko besteht beim Personal. Nutzen Mitarbeiter private, nicht von der Kanzlei freigegebene KI-Anwendungen (Schatten-KI), kann es zu Verstößen kommen, wenn sensible Daten freigegeben werden. Eine Verschwiegenheitsverpflichtung in Textform und eine Belehrung gem. § 43a Abs. 2 S. 4 BRAO genügen dafür nicht; erforderlich sind das fortlaufende Hinwirken nach § 43a Abs. 2 S. 5 BRAO, technisch-organisatorische Maßnahmen nach § 2 Abs. 2 S. 1 BORA und, arbeitsrechtlich über § 106 GewO, eine weitestgehende Unterbindung privater KI-Anwendungen in der Kanzlei.
Der Output aus dem Modell
Sprachmodelle erzeugen statistisch stimmige und inhaltlich falsche Aussagen. Erschwerend kommt hinzu, dass sie ihre Aussagen bevorzugt mit obergerichtlichen Entscheidungen und Standardkommentaren untermauern und dadurch ein trügerisches Gefühl der Verlässlichkeit erzeugen. Eine international geführte Sammlung verzeichnete zum 12.09.2026 weltweit 2.039 Verfahren mit KI-generierten Falschangaben, davon 11 aus Deutschland.
BRAK und DAV verlangen übereinstimmend eine eigenverantwortliche Überprüfung und Endkontrolle sämtlicher KI-Ergebnisse. Außerdem dürfte eine bloße Plausibilitätskontrolle nicht genügen, ebenso wie Stichproben. Gegenstand der Prüfung sind die Quellen und die Argumentationsketten, nicht die inneren Vorgänge des Modells. Das entlastet, weil eine Aufklärung dieser Vorgänge auch nicht möglich wäre. Ausgaben im Stil einer Gedankenkette bilden die tatsächlichen internen Entscheidungsprozesse nicht verlässlich ab und leisten nur eine nachträgliche Rationalisierung. Problematisch ist neben erfundenen Urteilen insbesondere, wenn ein tatsächlich existierendes und sogar thematisch verwandtes Urteil zitiert wird, dadurch einer genaueren (u.U. zeitintensiven) Prüfung bedarf und nicht einfach mit „nicht existent“ verneint werden kann. Die Prüfung darf sich somit nicht auf die Existenz der Fundstelle beschränken. Ein entdeckter Fehler erfordert die Neubewertung des gesamten KI-generierten Textes.
In Deutschland ist, soweit ersichtlich, bislang keine Sanktion verhängt worden. Das AG Köln beschränkte sich auf die Weisung, derartige Ausführungen künftig zu unterlassen und auf einen Hinweis auf § 43a Abs. 3 BRAO. Das LG Frankfurt a.M. und das OLG Celle haben es ebenso bei Feststellungen bzw. Ermahnungen belassen. § 138 ZPO erfasst allein Tatsachen, nicht Rechtsausführungen, und die eigene Rechtsermittlung des Gerichts schützt das Verfahren. Eine vom Gericht entdeckte KI-Halluzination führt dazu, dass die jeweiligen Ausführungen ignoriert, nicht aber sanktioniert werden. Ein Prozessbetrug scheitert mit Blick auf die Rechtsausführungen idR am tauglichen Täuschungsgegenstand, solange sie keinen überprüfbaren Tatsachenkern aufweisen; ebenso wird auch eine objektive Täuschungseignung, aufgrund der Pflicht der Gerichte und Behörden zur eigenständigen Rechtsermittlung und -anwendung, regelmäßig abzulehnen sein. § 43a Abs. 3 BRAO wird meistens daran scheitern, dass die Norm nach hM direkten Vorsatz verlangt, während die ungeprüfte Übernahme regelmäßig keine positive Kenntnis der Unrichtigkeit darstellt. Schließlich bleibt § 43 S. 1 BRAO, aus dem sich die Prüfpflicht ableiten lässt und der bei nachhaltigen Verstößen hinsichtlich der ungeprüften Übernahme der KI-Texte eine Ahndung nach § 113 BRAO denkbar macht.
Die ungeprüfte Übernahme ist eine Pflichtverletzung nach §§ 280 Abs. 1, 611, 675 BGB. KI- Systeme können keine Erfüllungsgehilfen nach § 278 BGB sein und das Vertretenmüssen wird vermutet. Am ersatzfähigen Schaden fehlt es zwar häufig, jedoch könnte dieser entstehen, wenn dem Mandanten aufgrund der KI-Halluzinationen zu einer Klage oder einer sonstigen kostenträchtigen Maßnahme geraten wird, die sich jedenfalls infolge einer sorgfältigen Prüfung als aussichtslos erwiesen hätte. Der Mandant kann das Mandat ggf. nach § 627 Abs. 1 BGB kündigen, und bei einem Interessenfortfall des Auftraggebers entfällt der Vergütungsanspruch nach § 628 Abs. 1 S. 2 Alt. 2 BGB. Wird ein Schriftsatz vollständig und nicht nur zur Unterstützung an eine KI delegiert, ohne dass das Ergebnis überprüft wird, liegt schon keine anwaltliche Leistung vor, sodass auch der Gebührenanspruch nach § 1 Abs. 1 S. 1 RVG in Frage steht. Wer KI-Ergebnisse bewusst ungeprüft übernimmt, begeht eine wissentliche Pflichtverletzung, für die die Berufshaftpflichtversicherung gem. § 51 Abs. 3 Nr. 1 BRAO die Deckung ausschließen kann. Schließlich ist der erhebliche Reputationsschaden zu berücksichtigen. Das AG Köln sah das Ansehen des Rechtsstaates empfindlich geschädigt, das LG Frankfurt a.M. einen schweren Schaden für die Rechtspflege. Durch die Dokumentation der Fälle in öffentlich zugänglichen Datenbanken und die Verbreitung über die sozialen Netzwerke wurde dies binnen weniger Tage bekannt.
Der Rahmen der KI-Verordnung
Beim Einsatz fremder Systeme ist die Kanzlei regelmäßig Betreiber i.S.v. Art. 3 Nr. 4 KI-VO. Anbieterpflichten treffen sie grundsätzlich nicht. Anwaltliche KI-Tools sind auch grundsätzlich keine Hochrisiko-KI. Anhang III Nr. 8 KI-VO adressiert nur die Justizbehörden.
Zentral ist insbesondere Art. 4 KI-VO. Zwar wurde dieser kürzlich iRd Digital Omnibus on AI abgeschwächt. Anbieter und Betreiber unterstützen nunmehr die Entwicklung der KI-Kompetenz ihres Personals. Praktisch ändert das allerdings wenig, weil bereits aus Eigeninteresse darauf geachtet werden sollte, eine höchstmögliche KI-Kompetenz sicherzustellen. Für die praktische Arbeit kann daher grundsätzlich offenbleiben, welchen Umfang die Fortbildungspflicht des § 43a Abs. 8 BRAO in diesem Kontext hat. Die KI-Verordnung verdrängt das anwaltliche Berufsrecht nicht und Verstöße gegen Art. 4 KI-VO lassen sich möglicherweise über § 43 S. 1 BRAO berufsrechtlich aufgreifen. Ein Folgebeitrag wird sich der praktischen Umsetzung der KI-Kompetenz ausführlicher widmen.
Eine Kennzeichnungspflicht für Schriftsätze folgt aus Art. 50 Abs. 4 KI-VO nicht, weil ein Schriftsatz einen zahlenmäßig überschaubaren und bekannten Empfängerkreis erreicht und der unterzeichnende Anwalt die redaktionelle Verantwortung trägt.
Folgerungen für die Kanzleiorganisation
Der Einsatz von KI ist berufsrechtlich zulässig, solange er die anwaltliche Tätigkeit unterstützt und nicht ersetzt. Folglich verlagert sich die Aufgabe von der Frage nach dem Ob auf die Organisation des Wie. Die dafür erforderlichen Schritte lassen sich einer Zeitachse zuordnen.
Vor dem Einsatz ist der Anbieter sorgfältig auszuwählen, u.a. ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO zu schließen und, davon getrennt, eine Zusatzvereinbarung in Textform nach § 43e Abs. 3 BRAO nebst Belehrung über § 203 StGB. Die Trainingsnutzung ist auszuschließen, die Verarbeitungsorte sind zu klären und der Kompetenzaufbau ist zu dokumentieren.
Beim Einsatz sind u.a. Consumer-Tarife für Mandatsdaten technisch zu sperren, Feedback- Funktionen zu deaktivieren und nur die für die Dienstleistung unbedingt erforderlichen Daten offenzulegen.
Nach dem Einsatz ist jede Fundstelle in der Primärquelle aufzurufen und die zitierte Aussage dort nachzulesen. Bei einem gefundenen Fehler ist der gesamte Text neu zu bewerten und die Verifikation zu dokumentieren.
Dauerhaft braucht die Kanzlei eine KI-Richtlinie, die den verantwortungsvollen KI-Einsatz sicherstellt, sowie eine transparente Regelung des Umfangs des KI-Einsatzes gegenüber Mandanten. Parallel sind eine kontinuierliche Schulung und Aufsicht des Personals erforderlich, um die KI-Kompetenz als wichtigsten Baustein weiter aufzubauen.
Die Diskussion de lege ferenda hinsichtlich KI-spezifischer Berufspflichten und KI-spezifischer Klarstellungen zur Rechtssicherheit ist eröffnet. Bis auf Weiteres bleibt es jedenfalls dabei, dass der Rechtsanwalt die eigenverantwortliche und gewissenhafte Endkontrolle selbst schuldet und KI-Tools nur unterstützend, nicht aber ersetzend, eingesetzt werden dürfen.
