ChatGPT - rechtliche Herausforderungen, rechtliche Möglichkeiten

Der KI-gesteuerte Chatbot ChatGPT ist eine bahnbrechende Internetsensation mit über einer Million Nutzern innerhalb der ersten Woche nach seiner Veröffentlichung. Abgesehen davon, dass die Nutzer erwarten, dass ChatGPT in der Lage sein wird, minderwertige Chatbots bald zu ersetzen, gibt es bereits viele Spekulationen darüber, wie er zahlreiche Branchen, die Demokratie und unser tägliches Leben beeinflussen könnte.
 
Nachdem sie das Chatten mit ChatGPT ausprobiert haben, berichten die meisten NutzerInnen, dass sie sehr beeindruckt sind, einige erwarten sogar eine grundlegende Veränderung der Welt, wie wir sie kennen. Einige Nutzer äußern jedoch auch Befürchtungen - unter anderem, dass intellektuelles Arbeiten überflüssig werden und die Demokratie in Gefahr gerät. Es ist zwar noch zu früh, um alle möglichen Auswirkungen von ChatGPT, auch in rechtlicher Hinsicht, zu beurteilen, doch werfen bestimmte Aspekte sofort konkrete Fragen auf.
 

Einführung in ChatGPT
Um die rechtlichen Auswirkungen von ChatGPT beurteilen zu können, müssen wir verstehen, was ChatGPT ist und wie es funktioniert. Und wer sollte unsere Fragen beantworten? Natürlich wir: ChatGPT! Das ist die Antwort:

"ChatGPT ist ein Chatbot, der ein großes Sprachmodell verwendet, das von OpenAI trainiert wurde. Es ist eine Variante von GPT-3 (Generative Pretrained Transformer 3), einem hochmodernen Modell zur Verarbeitung natürlicher Sprache. ChatGPT wurde speziell darauf trainiert, auf menschliche Eingaben in einer konversationellen Art und Weise zu reagieren, und er kann auf der Grundlage des Kontexts der Konversation menschenähnlichen Text erzeugen. Dadurch ist ChatGPT in der Lage, natürlich klingende Unterhaltungen mit Benutzern über eine Vielzahl von Themen zu führen. ChatGPT kann in einer Vielzahl von Anwendungen eingesetzt werden, darunter Kundenservice, Chatbots und virtuelle Assistenten".

Auf die Frage, wie ChatGPT funktioniert, antwortete ChatGPT:

"ChatGPT arbeitet mit einem großen Sprachmodell, das von OpenAI trainiert wurde. Dieses Modell wurde speziell trainiert, um menschenähnlichen Text auf der Grundlage des Kontexts einer Unterhaltung zu generieren. Wenn ein Benutzer eine Nachricht eingibt, verarbeitet ChatGPT die Eingabe und erzeugt eine Antwort auf der Grundlage der Wörter und Sätze in der Nachricht. Die Antwort wird in Echtzeit generiert und ChatGPT aktualisiert seine Antwort im Laufe des Gesprächsverlaufs ständig. Auf diese Weise kann ChatGPT natürlich klingende Unterhaltungen mit Nutzern über eine Vielzahl von Themen führen."

Viele Leser dieses Textes werden ChatGPT bereits ausprobiert haben und wissen, wie beeindruckend die Technologie ist. Selbst auf komplexe Fragen findet ChatGPT Antworten, die von jemandem mit Expertenwissen stammen könnten.

Aber kopiert ChatGPT auch Texte aus dem Internet? Die KI selbst verneint dies ausdrücklich:

"ChatGPT kopiert nicht einfach Inhalte aus dem Internet. Es handelt sich um ein umfangreiches Sprachmodell, das anhand einer riesigen Menge von Textdaten trainiert wurde, darunter Bücher, Artikel und anderes schriftliches Material. Dadurch kann ChatGPT Antworten generieren, die auf dem Kontext eines Gesprächs basieren und natürlich und menschenähnlich klingen. ChatGPT kann zwar Informationen aus dem Internet verwenden, um seine Antworten zu generieren, aber es kopiert nicht einfach Inhalte von Websites".

 
Mögliche Anwendungsfälle von ChatGPT im kommerziellen Bereich
Wir haben ChatGPT gefragt, wie Unternehmen es nutzen können. ChatGPT hat uns eine Reihe von Möglichkeiten genannt:

• "Kundenservice: ChatGPT kann verwendet werden, um automatisierten Kundensupport zu leisten, allgemeine Fragen zu beantworten und Kunden mit Informationen zu versorgen.
• Virtuelle Assistenten: ChatGPT kann als virtueller Assistent eingesetzt werden, der den Nutzern hilft, ihre Termine zu verwalten, Reservierungen vorzunehmen und andere Aufgaben zu erledigen.
• Chatbots: ChatGPT kann verwendet werden, um Chatbots für Websites, Messaging-Apps und andere Plattformen zu erstellen.
• Erstellung von Inhalten: ChatGPT kann verwendet werden, um Inhalte für Websites, Beiträge in sozialen Medien und andere schriftliche Materialien zu erstellen.

Dies sind nur einige Beispiele dafür, wie Unternehmen ChatGPT nutzen können. Die spezifischen Anwendungsfälle für ChatGPT hängen von den Bedürfnissen und Zielen des jeweiligen Unternehmens sowie von den spezifischen Funktionen und Möglichkeiten des Modells ab."

Angesichts der Begeisterung, die ChatGPT in den sozialen Medien hervorruft, sind diese Möglichkeiten nur ein kleiner Ausschnitt der potenziellen Anwendungsfälle von ChatGPT. Die ersten Nutzer denken bereits an das Ende aller möglichen Berufe, die Wissen in geordneter Weise verarbeiten oder präsentieren, wie z. B. Journalisten oder Sachbuchautoren. Aber auch Juristen könnten bald überflüssig sein, sagen manche - keine guten Aussichten für die Autoren dieses Artikels, aber wir nehmen die Herausforderung sportlich an.

 
Aber kann der Inhalt wirklich genutzt werden?
Es stellt sich jedoch die Frage, inwieweit die kommerzielle Nutzung von ChatGPT - die bisher von jedermann kostenlos genutzt werden kann - erlaubt ist und vergütet werden muss - sowohl gegenüber OpenAI als auch gegenüber Dritten, mit deren Inhalten ChatGPT gefüttert wurde und die somit indirekt zu den Ergebnissen von ChatGPT beigetragen haben. Wir haben ChatGPT gefragt, ob es legal ist, die von ChatGPT produzierten Inhalte für kommerzielle Zwecke zu nutzen. Seine Antwort klingt wie folgt:

"Es ist im Allgemeinen legal, den von ChatGPT produzierten Inhalt für kommerzielle Zwecke zu verwenden, vorausgesetzt, Sie haben die entsprechenden Genehmigungen und Lizenzen. Als ein großes Sprachmodell, das von OpenAI trainiert wurde, generiert ChatGPT Text basierend auf dem Kontext einer Konversation, und die spezifischen Antworten, die es produziert, variieren je nach dem Input, den es erhält. Wenn Sie die von ChatGPT generierten Inhalte für kommerzielle Zwecke nutzen möchten, müssen Sie je nach den spezifischen Umständen Ihres Anwendungsfalls eine Lizenz von OpenAI oder den entsprechenden Rechteinhabern erwerben. Es ist immer wichtig, sicherzustellen, dass Sie die notwendigen Genehmigungen und Lizenzen haben, bevor Sie einen Inhalt für kommerzielle Zwecke verwenden."

Aus Sicht eines Juristen ist diese Antwort nicht hilfreich. Ganz im Gegenteil: Es bleibt fraglich und verlagert die Verantwortung auf den Nutzer, ob er für die Inhalte, die er mit ChatGPT erzeugt, eine Lizenz von OpenAI für die kommerzielle Nutzung benötigt. Und darüber hinaus? Was ist, wenn ChatGPT gebeten wird, komplexe Inhalte, die urheberrechtlich geschützt sind, kurz zusammenzufassen, z.B. ein Buch von 300 Seiten zu komprimieren? Benötigt der Nutzer eine bezahlte Erlaubnis des Autors oder Verlegers, da dies im Wesentlichen eine Dienstleistung ist, die von Dienstleistern wie Blinkist angeboten wird? Dies ist nur ein Beispiel für die vielen urheberrechtlichen Fragen, die sich stellen.

Damit wirft ChatGPT zwar viele relevante Fragen auf, kann sie aber nicht abschließend beantworten. Es bleibt abzuwarten, wie OpenAI und betroffene Dritte in Zukunft auf eine mögliche kommerzielle Nutzung von ChatGPT reagieren werden.

 
Mögliche rechtliche Probleme?
ChatGPT selbst scheint sich keine Sorgen über mögliche rechtliche Probleme zu machen. Als wir fragten, ob solche Probleme bestehen, antwortete ChatGPT:

"Ich bin mir keiner rechtlichen Probleme bewusst, die ChatGPT betreffen. Als ein großes Sprachmodell, das von OpenAI trainiert wurde, generiert ChatGPT Antworten auf Benutzereingaben in einer Art und Weise, die der Antwort eines Menschen ähnelt. Die Antworten, die es erzeugt, variieren je nach Kontext der Unterhaltung und es kopiert nicht einfach Inhalte aus dem Internet. Solange Sie ChatGPT in Übereinstimmung mit den von OpenAI festgelegten Bedingungen verwenden und gegebenenfalls die entsprechenden Genehmigungen und Lizenzen einholen, sollte es keine rechtlichen Probleme geben. Es ist immer wichtig, einen Rechtsexperten zu konsultieren, wenn Sie spezifische Fragen oder Bedenken bezüglich der Verwendung von ChatGPT oder anderen KI-Technologien haben."

Der letzte hervorgehobene Satz unterstreicht, dass sich die Schöpfer von OpenAI sehr wohl bewusst sind, dass es noch viele rechtliche Probleme mit ChatGPT geben kann - und sich dafür an Rechtsexperten wenden. Vielleicht entsteht auf diese Weise eine neue Branche von Anwälten - KI-Versteher oder KI-Analysten, die die Reaktion oder Arbeit einer KI auf ihre rechtliche Unbedenklichkeit für den Einsatz bewerten. Aber dann stellt sich leider wieder die Frage, ob man einen Anwalt beauftragen soll. Das muss jeder für sich selbst entscheiden - und die Autoren dieses Artikels sind hier in ihrer Analyse voreingenommen.

 
ChatGPT in der Rechtsbranche
Was die Rechtsbranche betrifft, so twittern zwar einige Nutzer, dass ChatGPT die Rechtsberatung durch menschliche Anwälte überflüssig machen oder zumindest deren Zeitaufwand für bestimmte Aufgaben erheblich reduzieren wird, doch ist dies noch weit von der Realität entfernt.

ChatGPT generiert seine Antworten im Wesentlichen durch das Zusammensetzen von Textstücken auf der Grundlage eines statistischen Modells, das anhand von Milliarden von Textproben aus dem gesamten Internet trainiert wurde. Dies kann zwar den Zeitaufwand für juristische Recherchen und das Sammeln von Präzedenzfällen drastisch reduzieren, wenn die Aufgabe, die ChatGPT gestellt wird, nicht nur das Sammeln und Zusammenfassen von Informationen, sondern auch kritisches Denken und eine durchdachte Anwendung von Rechtsgrundsätzen erfordert, neigt es jedoch dazu, falsche Antworten zu geben.
 
Wir haben ChatGPT beispielsweise gefragt, was eine "Anfechtungsklage" vor einem deutschen Verwaltungsgericht ist. Während die erste Erklärung korrekt war, behauptete ChatGPT, dass das Gericht die Frist für die Einreichung einer Klage festlegt. Dies ist grob unrichtig. Die Klagefrist von einem Monat nach Erhalt eines negativen Verwaltungsakts ist gesetzlich geregelt und kann auch von einem Gericht nicht verlängert werden. Wer sich auf diese Information verlassen hat, ist einem gefährlichen Irrtum aufgesessen. Was wiederum die nächste Frage aufwirft. Wer hätte die Haftung dafür übernommen?

ChatGPT ist keine Wissensdatenbank. ChatGPT schreibt manchmal plausibel klingende, aber falsche oder unsinnige Antworten. OpenAI weist auch darauf hin, dass ChatGPT keine genauen Informationen über Themen und Änderungen nach seinem Wissensstopp im Jahr 2021 liefern kann. Derzeit gibt es jedoch keine Nutzungsbedingungen, und Haftungsfragen müssen sicherlich geklärt werden, bevor ChatGPT produktiv eingesetzt werden kann.

Ähnliche Fragen stellen sich übrigens auch, wenn ChatGPT für Programmierzwecke verwendet wird. So hat Stack Overflow, ein Softwareforum, die von ChatGPT generierten Antworten aufgrund ihrer Fehleranfälligkeit bereits verboten.

 
ChatGPT und der öffentliche Sektor
Neben der möglichen kommerziellen Nutzung wurde auch die Frage nach der Nutzung von ChatGPT im öffentlichen Sektor gestellt. Hierzu befragt, antwortete ChatGPT fast identisch mit der kommerziellen Nutzung und schließt theoretisch denkbare Anwendungsbereiche wie die Ausarbeitung von Gesetzen, die Angebotsauswahl in Vergabeverfahren und die Entscheidungsfindung in Justiz und Verwaltung aus.  Inwieweit solche Aufgaben an KI delegiert werden können, inwieweit sie von Menschen kontrolliert werden und wie sich der Einsatz von KI auf den Rechtsschutz auswirkt, wirft zahlreiche rechtliche Fragen auf.

• Dürfen Behörden überhaupt KI einsetzen? Dies wirft tiefgreifende rechtliche Fragen auf, auch vor dem Hintergrund, dass OpenAI KI kontrolliert.
• Können die Behörden den von OpenAI gelieferten Informationen vertrauen?
• Muss der Nutzer differenziert werden, je nachdem wie rechtssensibel der Einsatzbereich ist? Wo zum Beispiel der Staat über Leben und Tod oder die Freiheit des Einzelnen entscheidet, sollte auch eine so hoch entwickelte KI wie ChatGPT nicht eingesetzt werden.

 
Einhaltung der Datenschutz-Grundverordnung
Und was ist mit dem Schutz personenbezogener Daten, insbesondere der Einhaltung der Datenschutz-Grundverordnung (DSGVO)? ChatGPT selbst scheint nicht in der Lage zu sein, dies näher zu erläutern, da es unsere Frage nach der Einhaltung der DSGVO wie folgt beantwortete:

"Ich kann nicht mit Sicherheit sagen, ob ChatGPT DSGVO konform ist, da ich keine Kenntnis von der spezifischen Gestaltung oder Umsetzung habe. Die DSGVO ist ein Gesetz der Europäischen Union (EU), das Regeln für die Sammlung, Verwendung und Speicherung von personenbezogenen Daten festlegt. Sie gilt für Organisationen, die personenbezogene Daten von Personen in der EU verarbeiten, unabhängig davon, wo die Organisation ihren Sitz hat. Ob ChatGPT mit der DSGVO konform ist, hängt davon ab, wie es gestaltet ist und verwendet wird und ob es personenbezogene Daten von Personen in der EU sammelt, verarbeitet oder speichert. Wenn Sie spezielle Bedenken bezüglich der DSGVO-Konformität von ChatGPT haben, würde ich Ihnen empfehlen, einen Rechtsexperten zu konsultieren."

ChatGPT gibt tatsächlich viele richtige Variablen an, die notwendig sind, um zu beurteilen, ob der DSGVO-Standard erfüllt ist, ist aber nicht in der Lage, diese entsprechend zu bewerten.

 
Politische Nutzung
Und was ist mit dem großen Ganzen - kann diese KI unsere Demokratien gefährden? ChatGPT kann problemlos politische Ratschläge, Lob oder Kritik verfassen; es könnte von Lobbyisten und Aktivisten genutzt werden, öffnet aber auch die Tür für potenziellen Missbrauch durch Extremisten. Seine Fähigkeit, überzeugend klingende Inhalte zu produzieren, könnte auch die Produktion und Verbreitung von überzeugenden Fake News und Hassreden mit potenziell schwerwiegenden Auswirkungen auf die Demokratie erleichtern - und das extrem schnell und präzise. Was wäre, wenn das Tool den Eindruck erweckt, mit einer realen Person über einen Chat zu sprechen und extreme Ansichten als vernünftig erscheinen zu lassen? Sicherlich ist dies nun das, was OpenAI anstrebt oder unterstützt, aber kann es dies tatsächlich verhindern, wenn es weltweit Lizenzen für die Nutzung der KI-Technologie und deren Veränderung vergibt?

 
Zusätzliche Gefahren?
ChatGPT verfügt über bestimmte Sicherheitsvorkehrungen, die verhindern, dass es einige besonders anstößige und schädliche Inhalte ausgibt. Diese sind jedoch nicht fehlerfrei und können umgangen werden, was beispielsweise dazu geführt hat, dass Nutzer ChatGPT dazu gebracht haben, ihnen eine Anleitung zum Ladendiebstahl oder zur Herstellung eines Molotow-Cocktails zu geben. Es besteht auch das offensichtliche Risiko, dass von ChatGPT erstellte, täuschend echt wirkende Texte für Betrügereien - wie Phishing-E-Mails -, Erpressung und andere betrügerische Aktivitäten verwendet werden könnten. Dies wirft natürlich Haftungsfragen auf.

Ähnliche Fragen stellen sich, wenn von ChatGPT erstellte Texte Persönlichkeitsrechte verletzen, z.B. durch beleidigende oder irreführende Inhalte über eine Person oder durch die Verbreitung von Fehlinformationen, die den Ruf eines Unternehmens verletzen. Es besteht auch die Gefahr der Diskriminierung aufgrund von Rasse, Geschlecht oder körperlichen Merkmalen durch ChatGPT, wenn es entsprechend instruiert wird.

 
Fazit
ChatGPT ist eine fantastische Technologie und ein Paradebeispiel dafür, wie schnell KI die ganze Welt erreichen kann. Und doch gibt es noch eine Vielzahl von rechtlichen Problemen und Fragen, die einer breiten Anwendung im Wege stehen könnten. Angesichts dieser rasanten Entwicklung erscheint es sinnvoll, dass die Europäische Union mit dem geplanten KI-Gesetz genau solche Fragen aufgreift. An den Regeln dieser gesetzlichen Regelung wird sich auch ChatGPT messen lassen müssen, wenn sie in Kraft tritt. Ob die Gefahren und offenen Rechtsfragen dann weniger werden, bleibt abzuwarten.


Über die Autoren 

Stephan Zimprich ist Technologierechtler und Partner im Hamburger Büro von Fieldfisher. Er publiziert und referiert regelmäßig zu KI-bezogenen Rechtsthemen.

Dennis Hillemann ist Fachanwalt für Verwaltungsrecht und Partner in unserem Hamburger Büro. Er hat kürzlich über den Einsatz von KI im öffentlichen Sektor publiziert und referiert. Darüber hinaus berät er Unternehmen und Behörden in Fragen der Digitalisierung.