Künstliche Intelligenz in der Arbeitswelt – arbeitsrechtliche Fragen & Antworten

Künstliche Intelligenz ist in aller Munde. Nach dem Start von ChatGPT ist ein regelrechter Hype um die Technologie entbrannt. Insbesondere in der Arbeitswelt kündigen sich grundlegende Veränderungen an. Schon jetzt stellen sich dabei zahlreiche rechtliche Fragen, auf die dieser Beitrag eingeht. Ein besonderer Fokus liegt dabei auf der Nutzung von ChatGPT durch Arbeitnehmer.

• Dürfen Arbeitnehmer ChatGPT am Arbeitsplatz nutzen?
• Muss der Arbeitnehmer mitteilen, dass er ChatGPT genutzt hat?
• Mitbestimmung bei der Einführung und Anwendung von ChatGPT & anderer KI
• Künstliche Intelligenz im Bewerbungsprozess
• Fazit

Dürfen Arbeitnehmer ChatGPT am Arbeitsplatz nutzen?

Diese Frage stellt sich derzeit in zahlreichen Unternehmen. Sie ist leicht beantwortet, wenn der Arbeitgeber entsprechende Weisungen erteilt hat. Das Weisungsrecht aus § 106 GewO ermächtigt ihn ohne Weiteres, den Einsatz von ChatGPT und anderen KI-Anwendungen zuzulassen oder zu untersagen. Widersetzt der Arbeitnehmer sich der Anweisung, die Technologie nicht zu nutzen, drohen ihm eine Abmahnung und im (mehrfachen) Wiederholungsfall eine verhaltensbedingte Kündigung.

Allerdings existieren in den wenigsten Unternehmen derartige Anweisungen. Die Rechtslage ist dann weniger klar. Dies hängt vor allem mit der Pflicht zur höchstpersönlichen Leistungserbringung gemäß § 613 S. 1 BGB zusammen.

Manchen Stimmen der Literatur zufolge verletzt der Arbeitnehmer diese Pflicht, wenn er Teile seiner Arbeitsleistung gänzlich durch eine KI erbringen lässt. Die Frage ist umstritten. Im Kern steht zur Debatte, ob der Arbeitnehmer mithilfe der KI noch in Person leistet oder die Leistung schon nicht mehr selbst erbringt. Die Lösung wird einmal mehr vom Einzelfall abhängen. Beträchtliches Gewicht dabei dürfte erhalten, worauf der Schwerpunkt der geschuldeten Tätigkeit des Arbeitnehmers liegt.

Beispiel: Schuldet er das Verfassen eines Werbetextes und erstellt er diesen per ChatGPT, dürfte der Grundsatz der höchstpersönlichen Leistungserbringung missachtet sein. Anders dürfte die Rechtslage sein, wenn ein Ingenieur einen Prüfbericht zu erstellen hat. Der Text des Prüfberichts stellt hier meist nur die textliche Aufbereitung der mathematisch aufwändig ermittelten Ergebnisse dar. Auf letzterem liegt der Schwerpunkt der geschuldeten Tätigkeit. Die Versprachlichung durch ChatGPT ist bloß Hilfsmittel.

Berücksichtigung dürfte auch finden, wie aufwändig der Eingabebefehl gestaltet ist, den der Arbeitnehmer nutzt. Die Rede ist vom sogenannten Prompt. Dessen Güte hat beträchtlichen Einfluss auf das Ergebnis der KI. Insofern liegt nicht fern, die Entwicklung eines probaten Prompts ebenfalls als intellektuelle Arbeitsleistung des Arbeitnehmers anzusehen.

Im Konfliktfall wird der Arbeitnehmer argumentieren, dass die Vertragsparteien die Pflicht zur persönlichen Leistungserbringung aus § 613 S. 1 abbedungen hätten. Dies ist ohne Weiteres möglich, auch konkludent. Ob insbesondere dem Verhalten des Arbeitgebers eine solche Willenserklärung zu entnehmen ist, richtet sich gem. §§ 133, 157 BGB nach dem objektiven Empfängerhorizont. Nach heutigem Verständnis wird man ohne nähere Anhaltspunkte nicht annehmen können, dass der Arbeitgeber ohne Weiteres mit dem Einsatz KI-basierter Sprachmodelle einverstanden ist; zu neu, zu fehleranfällig und zu unerprobt ist deren Einsatz.

Allerdings liegt nahe, dass der objektive Empfängerhorizont sich mit fortschreitendem Einzug künstlicher Intelligenz in die Arbeitswelt wandeln wird. In absehbarer Zukunft wird in einigen Branchen unproblematisch und mit besseren Ergebnissen auf entsprechende Sprachmodelle zurückgegriffen werden können. Wenn die künstliche Intelligenz dann besser und schneller arbeitet als der Arbeitnehmer, wird aus der Perspektive eines objektiven Empfängers im Regelfall nichts dagegensprechen, dass der Arbeitnehmer auf die künstliche Intelligenz zurückgreift. Voraussetzung dafür ist auch, dass die datenschutz- und urheberrechtlichen Schwierigkeiten im Umgang mit ChatGPT u.a. geklärt sind (s.u.).

Muss der Arbeitnehmer mitteilen, dass er ChatGPT genutzt hat?

Ja, eine solche Pflicht existiert laut überzeugender Auffassung der Literatur. Selbstredend besteht sie nur, wenn der Arbeitgeber nicht ohnehin bereist vom Einsatz der KI weiß.

Die Mitteilungspflicht wird aus § 241 Abs. 2 BGB hergeleitet und stellt richtigerweise eine Leistungstreuepflicht dar. Danach hat der Schuldner alles Zumutbare zu unternehmen, um den Vertragszweck für den Gläubiger nicht zu gefährden. Aktives Tun ist insoweit nur in engen Grenzen geschuldet, weil sonst das Äquivalenzverhältnis gestört würde. Dennoch wird man dem Arbeitnehmer eine schlichte Mitteilungspflicht zumuten können, die seine Interessen schließlich nur marginal berührt. Das Interesse des Arbeitgebers an der Mitteilung wiegt hingegen schwer, weil ein per KI erzeugtes Arbeitsergebnis schwieriger zu verwerten sein kann. Insbesondere bestehen zahlreiche Unklarheiten beim Urheberrecht, weil nicht abschließend geklärt ist, ob überhaupt Urheberrechte an den Ergebnissen von ChatGPT und Co. begründet werden und wer diese innehält. Außerdem können vertragliche Pflichten gegenüber Kunden dem Einsatz von KI entgegenstehen. Hinzu kommen datenschutzrechtliche Risiken, wie sogleich erörtert wird.

Datenschutzrechtliche Probleme bei der Nutzung von ChatGPT

Der Einsatz von ChatGPT und anderer KI am Arbeitsplatz wirft zahlreiche datenschutzrechtliche Fragen auf, die sich teils schwerlich handhaben lassen. Problematisch wird es insbesondere, wenn Arbeitnehmer personenbezogene Daten in das Eingabefeld des Chatbots eingeben (sollen). Geschieht dies zu Arbeitszwecken, ist der Arbeitgeber regelmäßig der datenschutzrechtlich Verantwortliche im Sinne des Art. 4 Nr. 7 DSGVO.

Die Datenverarbeitung bedarf grundsätzlich einer Ermächtigung. In Betracht kommt insbesondere die Einwilligung des Betroffenen gem. Art. 7 Abs. 1 DSGVO. Im Arbeitsverhältnis ist auch § 26 Abs. 1 S. 1 BDSG einschlägig, wonach die Verarbeitung personenbezogener Daten zulässig ist, sofern dies zur Begründung, Durchführung oder Beendigung des Beschäftigungsverhältnisses notwendig ist. Ob der Tatbestand erfüllt ist, hängt stark vom Einzelfall ab. Laut einiger Literaturstimmen dürfen jedenfalls Informationen, die die fachliche Qualifikation betreffen und die der Arbeitgeber ohnehin erfragen darf, in einer KI verarbeitet werden. Die Erstellung eines umfassenden Persönlichkeitsprofils ist von § 26 Abs. 1 S. 1 BDSG hingegen nicht umfasst.

Werden personenbezogene Daten auf Grundlage dieser Ermächtigungen verarbeitet, treffen den Arbeitgeber als Verantwortlichen zahlreiche Pflichten. Zu denken ist insbesondere an die Betroffenenrechte in Art. 13-15 DSGVO, die umfangreiche Informations- und Auskunftspflichten vorsehen. Die in ChatGPT eingegebenen Daten werden zudem in die USA und damit einem Drittstaat übertragen, sodass die Vorschriften der Art. 44-50 DSGVO zu beachten sind.

Vor bisher ungelösten Problemen steht der Arbeitgeber mit Blick auf Art. 5 Abs. 1 lit. a DSGVO, wonach die personenbezogenen Daten in einer für die betroffene Person nachvollziehbaren Weise verarbeitet werden müssen. Der Arbeitgeber ist dafür gemäß Art. 5 Abs. 2 DSGVO rechenschaftspflichtig. Dem wird er hinsichtlich der Datenverarbeitung durch ChatGPT kaum gerecht werden können, weil der Betreiber OpenAI diese nicht offenlegt.

Vor dem dargestellten Hintergrund ist davon abzuraten, personenbezogene Daten in ChatGPT einzugeben. Der Arbeitgeber ist ohnehin gemäß dem Datenminimierungsgrundsatz angehalten, so wenig Daten wie möglich zu verarbeiten. Dementsprechend bietet sich die Anweisung an, generell keine personenbezogenen Daten in KI-basierten Sprachmodellen zu verwenden.

Mitbestimmung bei der Einführung und Anwendung von ChatGPT & anderer KI

Auch der Betriebsrat wird sich für den Umgang mit ChatGPT und anderer KI im Betrieb interessieren. Das BetrVG eröffnet ihm dazu einige Möglichkeiten.

Bei deren Wahrnehmung ist er nicht allein auf seinen eigenen Sachverstand angewiesen. Das Gremium darf gemäß § 80 Abs. 3 S. 1 BetrVG regelmäßig einen Sachverständigen hinzuziehen, wenn es die Einführung oder Anwendung von Künstlicher Intelligenz beurteilen muss. S. 2 der Norm unterstellt nunmehr, dass die externe Beratung zu diesem Zweck regelmäßig erforderlich ist.

Bereits im Zuge der Planungen, ob ChatGPT oder andere KI im Unternehmen Einzug hält, muss der Arbeitgeber den Betriebsrat unterrichten und sich mit dem Gremium beraten. So folgt es insbesondere aus § 90 Abs. 1 Nr. 3, Abs. 2 BetrVG. Der Arbeitgeber hat den Betriebsrat dabei so rechtzeitig einzubinden, dass dessen Vorschläge und Bedenken noch in die Entscheidung einfließen können. Auch die Vorlage der „erforderlichen Unterlagen“ ist geschuldet. Diese sollen laut einiger Stimmen der Literatur auch Aufschluss darüber geben, wie das jeweilige KI-System funktioniert und arbeitet. Im Falle von ChatGPT wird der Arbeitgeber dies nicht in Gänze erklären können, da OpenAI die Informationen nicht teilt. Allerdings beschränkt sich der verwandte Anspruch aus § 80 Abs. 2 S. 2 BetrVG nach der Rechtsprechung des BAG auf die vorhandenen Unterlagen (Beschluss v. 7.8.1986 – 6 ABR 77/83). Insofern dürfte der Arbeitgeber jedenfalls nicht gemäß § 90 Abs. 1 BetrVG verpflichtet sein, die Funktionsweise von ChatGPT näher erklären zu können. Auf datenschutzrechtliche Pflichten in dieser Hinsicht wurde oben bereits hingewiesen.

Die Beteiligungsrechte des Betriebsrats bei der Einführung von ChatGPT oder einer anderen KI können noch weiter reichen. In Betracht kommt z.B. ein Mitbestimmungsrecht aus § 87 Abs. 1 Nr. 6 BetrVG, wenn der Arbeitgeber einsehen kann, wie der jeweilige Arbeitnehmer ChatGPT oder eine andere KI nutzt. So ließen sich Verhalten und Leistung des Mitarbeiters überwachen und das Mitbestimmungsrecht wäre eröffnet. Entgegen dem Wortlaut verlangt das BAG nämlich gerade nicht, dass der Arbeitgeber die technische Einrichtung gezielt zur Überwachung einzusetzen gedenkt. Bereits die objektive Eignung dazu kann genügen.

Dennoch dürfte das Mitbestimmungsrecht aus § 87 Abs. 1 Nr. 6 BetrVG jedenfalls im Fall von ChatGPT regelmäßig nicht eröffnet sein. Der Arbeitgeber hat nämlich (bisher) keine eigene Möglichkeit, das Nutzerverhalten einzusehen. Er kann allenfalls die Browserdaten des Arbeitnehmers auswerten. Damit ist aber das Mitbestimmungsrecht in Bezug auf den Browser berührt, nicht hinsichtlich ChatGPT.

In manch einer Branche haben KI-Anwendungen wie ChatGPT das Potenzial, die Arbeitsweise zu revolutionieren. Möchte der Arbeitgeber umfassend auf solche Tools zurückgreifen, lohnt in Unternehmen mit regelmäßig mehr als 20 Arbeitnehmern ein Blick auf die Vorschriften über die Betriebsänderung. Diese zwingen den Arbeitgeber zur umfangreichen Beteiligung des Betriebsrats, insbesondere in Form eines Sozialplans und Verhandlungen über einen Interessenausgleich. Freilich kommen die Vorschriften erst in Betracht, wenn die KI-Anwendungen zu erheblichen Veränderungen mit Nachteilen für die Belegschaft führen sollen. Das Gesetz nennt etwa grundlegende Änderungen der Betriebsorganisation oder Betriebsanlagen sowie die Einführung grundlegend neuer Arbeitsmethoden, soweit dies erhebliche Bedeutung für das betriebliche Gesamtgeschehen hat. In aller Regel muss also eine Vielzahl von Mitarbeitern betroffen sein. Eine Betriebsänderung wird deshalb meist nur anzunehmen sein, wenn die KI-Anwendung Kerntätigkeiten ganzer Mitarbeitergruppen übernimmt.

Künstliche Intelligenz im Bewerbungsprozess

Künstliche Intelligenz wird in vielen Unternehmen bereits zur Auswahl geeigneter Bewerber genutzt. Die Anwendungsfälle sind zahlreich: Künstliche Intelligenz kann online nach geeigneten Bewerbern suchen, Bewerbungsunterlagen sortieren und aufbereiten, formale Voraussetzungen prüfen und Bewerberdaten anonymisieren.

Arbeitgeber sollten den KI-Tools aber nicht die Einstellungsentscheidung in Gänze überlassen. Gemäß § 22 Abs. 1 DSGVO darf eine Entscheidung, die rechtliche Wirkungen gegenüber dem Betroffenen entfaltet, nicht vollautomatisiert getroffen werden. Daher sollten Arbeitgeber entsprechende KI-Tools nur zur Aufbereitung von Vorschlägen, nicht hingegen zur finalen und autonomen Entscheidung heranziehen.

So praktisch KI im Bewerbungskontext ist, so schnell gerät ihr Einsatz in Konflikt mit dem AGG. Schließlich steht die Funktionsweise der Technik häufig in Widerspruch zur Zielsetzung des Gesetzes. Anliegen des AGG ist es, bestehende Benachteiligungen aufzuheben. Da die KI Zusammenhänge anhand bestehender Umstände lernt und diese auf neue Fälle anwendet, schreibt sie bestehende Benachteiligungen mitunter fort.

Bereitet die KI Bewerbungen so auf, dass ein Bewerber unmittelbar oder mittelbar wegen eines verpönten Merkmals aus § 1 AGG abgelehnt wird, liegt ein Verstoß gegen das Benachteiligungsverbot gemäß § 7 I AGG vor. In der Folge stehen dem abgelehnten Bewerber grundsätzlich Schadensersatz- und Entschädigungsansprüche unter den Voraussetzungen des § 15 Abs. 1 und Abs. 2 AGG zu.

Der Schadensersatzanspruch aus § 15 Abs. 1 AGG ist verschuldensabhängig. Nach der herrschenden Meinung kann dem Arbeitgeber allerdings nicht das „Verschulden“ einer künstlichen Intelligenz gemäß § 278 BGB zugerechnet werden. Jedoch kommt in Betracht, dass der Arbeitgeber oder dessen menschlicher Erfüllungsgehilfe die KI bewusst oder unbewusst anhand diskriminierender Trainingsdaten anlernt. Daraus ließe sich ein Verschuldensvorwurf herleiten. Die Literatur schlägt teilweise auch vor, dass schon eine mangelhafte Überwachung der KI ausreiche. Eine normative Stütze findet diese Auffassung in § 12 Abs. 1 AGG, wonach der Arbeitgeber (auch vorbeugend) die erforderlichen Maßnahmen zum Schutz vor Benachteiligungen treffen muss.

Der Arbeitgeber steht außerdem schnell vor erheblichen Beweisschwierigkeiten. Gemäß § 22 AGG hat er im Streitfall zu beweisen, dass keine kausale Benachteiligung aufgrund eines verpönten Merkmals vorliegt, wenn der abgelehnte Bewerber entsprechende Indizien beweist. Arbeitgebern ist deshalb zu raten, die Entscheidungsfindung der KI so nachvollziehbar wie möglich zu gestalten.

Fazit

Grundsätzlich steht dem Einsatz von ChatGPT am Arbeitsplatz kein Hindernis im Wege, das nicht überwunden werden könnte. Unternehmen sind allerdings gut beraten, eindeutige Regelungen über die Nutzung zu treffen. Arbeitnehmer laufen andernfalls Gefahr, gegen ihre Pflicht zur höchstpersönlichen Leistungserbringung zu verstoßen. Für Arbeitgeber ist insbesondere die Verwendung personenbezogener Daten im Zusammenhang mit ChatGPT problematisch. Außerdem drohen urheber- und vertragsrechtliche Konflikte, wenn das Unternehmen seine Produkte und Dienstleistungen zu großen Teilen durch KI erstellen lässt. Aus diesen Gründen wird man Arbeitnehmer regelmäßig auch in der Pflicht sehen, dem Arbeitgeber den Einsatz der Technologie offenzulegen.

Die Beteiligungsrechte des Betriebsrats bei Einführung von ChatGPT im Unternehmen werden sich hingegen regelmäßig in Grenzen halten. Meist dürfte nur eine Unterrichtungs- und Informationspflicht bestehen.

Der Einsatz von KI im Bewerbungsprozess wird von einigen Beobachtern kritisch beäugt. Umso mehr ist deshalb dazu zu raten, die Technologie so weit wie möglich diskriminierungsfrei zu gestalten. Um Beweisschwierigkeiten zu umgehen, sollten Unternehmen auf eine möglichst transparente Funktionsweise der KI bestehen.