Über die Notwendigkeit interner Richtlinien für den Einsatz generativer KI

Der Einsatz von Software-Tools für generative KI (GenAI) hat bei vielen Unternehmen an Popularität gewonnen. Der Schwerpunkt liegt dabei häufig auf Chat-GPT, dem Large Language Model von Open AI. Doch GenAI beschränkt sich nicht nur auf die Texterstellung. Sie verspricht auch eine höhere Effizienz, bessere Ergebnisse und eine bessere Nutzung von Ressourcen für die Produktion anderer Inhalte. Unternehmen, die diese Vorteile nutzen wollen, sollten allerdings einige Spielregeln beachten.

Warum sollten Unternehmen eine interne GenAI-Richtlinie erstellen?

Trotz aller Euphorie über das Potenzial der inzwischen weit verbreiteten und leicht zugänglichen Technologie wächst die Sorge über ihre rechtliche Zulässigkeit und mögliche Haftungsrisiken für Unternehmen. Nicht zuletzt hat das vorübergehende Verbot von Chat-GPT in Italien gezeigt, dass die Funktionen von GenAI mit einigen Rechtsunsicherheiten verbunden sind. Unternehmen, die GenAI in der eigenen Organisation einsetzen wollen, sollten sich daher mit diesen Herausforderungen auseinandersetzen. Bei unsachgemäßem Einsatz von GenAI-Tools drohen Bußgelder, Schadensersatzforderungen, Abmahnungen oder die ungewollte Preisgabe von Geschäftsgeheimnissen. Organisationen können dem entgegenwirken, indem sie interne Richtlinien für den Einsatz von GenAI erstellen, die den Mitarbeitern klare Regeln vorgeben, wie diese mit den Daten in der neuen Umgebung umgehen sollen. 

Welche Themen sollte eine GenAI-Richtlinie abdecken?

Es gibt einige wesentliche Punkte, die unserer Meinung nach bei der Ausarbeitung einer GenAI-Richtlinie für Ihr Unternehmen berücksichtigt werden sollten:

Unterscheidung zwischen Input- und Output-Daten

Beim Umgang mit GenAI ist es wichtig, die tatsächlich verwendeten Daten genau zu betrachten. Die Benutzer können das Tool mit ihren eigenen Daten "füttern" ("Input-Daten") und dann die von ihm generierten Daten ("Output-Daten") für unterschiedliche Zwecke verwenden. Beide Datensätze bedürfen einer gesonderten Betrachtung mit entsprechenden Hinweisen für die Mitarbeiter.

Training der GenAI-Modelle

GenAI erwirbt seine Fähigkeiten durch Training mit (großen) Datensätzen. In einigen Fällen ist ein kontinuierliches Training zur Anpassung an die Bedürfnisse des Benutzers nützlich und wünschenswert, in anderen Fällen könnte es unerwünscht oder sogar schädlich sein. Es ist daher wichtig, die Anforderungen im Einzelfall in Ihrem Unternehmen zu prüfen und entsprechende Vereinbarungen mit dem GenAI-Dienstleister zu treffen. Letzteres muss sich ebenfalls in den internen Richtlinien für die Mitarbeiter entsprechend niederschlagen.

Datenschutz

Der Datenschutz kann für Unternehmen beim Einsatz von GenAI ein großer Stolperstein sein und ist insbesondere deshalb riskant, weil Verstöße hier hohe Geldstrafen nach sich ziehen können. Unternehmen sollten sich daher über die genaue Verarbeitung von Input-Daten durch die von ihnen genutzten GenAI-Tools im Klaren sein. Das ist wesentliche Voraussetzung, um eine tragfähige Rechtsgrundlage für die Datenverarbeitung durch das Tool zu schaffen und die Informationspflichten gegenüber den betroffenen Personen entsprechend zu erfüllen.

Rechte an geistigem Eigentum

Während Unternehmen, die Input-Daten eingeben, sicherstellen müssen, dass sie über die erforderlichen Lizenzen für die beabsichtigte Nutzung verfügen, können sich im Hinblick auf die Rechte zur weiteren Verwendung der Output-Daten viele komplexe Fragen ergeben. Um kostspielige Abmahnungen von Rechteinhabern zu vermeiden, sollten je nach Anwendungsszenario geeignete Maßnahmen getroffen werden, um dieses Risiko zu minimieren. Hierzu bedarf es auch klarer Regeln für die Mitarbeiter, um hinsichtlich der Nutzung der Daten zu schulen. Vor der Veröffentlichung von Output-Daten sind diese entsprechend zu überprüfen.

Geschäftsgeheimnisse

Unternehmen müssen beim Einsatz von GenAI auch an den Schutz ihrer Geschäftsgeheimnisse denken. Eine Vereinbarung mit dem Dienstleister über die Funktionsweise der Software und den Umgang mit Eingabedaten kann dazu beitragen, dass vertrauliche Daten nicht an falscher Stelle auftauchen.

Sicherheit, Richtigkeit und Vorurteile

GenAI ist leistungsstark, aber nicht allmächtig. Die Möglichkeit falscher Ausgabedaten darf nie außer Acht gelassen werden. Es müssen entsprechende Maßnahmen ergriffen werden, um zu verhindern, dass diese dem Unternehmen oder Dritten Schaden zufügen. Nachteilige Ergebnisse können auch entstehen, wenn Output-Daten bestimmte Personen voreingenommen behandeln. Unternehmen sollten daher auch geeignete Maßnahmen ergreifen, um diesem Risiko entgegenzuwirken.

Zusammenfassung

Die Weiterentwicklung von GenAI-Tools bleibt ein spannendes Thema für Unternehmen. Um deren Einsatz rechtlich abzusichern, sollten Unternehmen die oben genannten Punkte durch interne Richtlinien abdecken. Wir von Fieldfisher unterstützen Sie dabei gerne.