Künstliche Intelligenz im deutschen öffentlichen Sektor: Fünf große Herausforderungen

Als Fachanwalt für Verwaltungsrecht bei Fieldfisher beschäftige ich mich derzeit intensiv mit den rechtlichen Aspekten der Digitalisierung und des Einsatzes von Künstlicher Intelligenz (KI) im öffentlichen Sektor. In diesem Beitrag möchte ich meine grundlegenden Gedanken zum Einsatz von KI in deutschen Ministerien, Behörden und öffentlichen Unternehmen teilen und dabei auf fünf große Herausforderungen hinweisen, die es - auch abseits von Fragen wie Zuständigkeiten und Finanzierung - zu meistern gilt.

 

1.   Das unbestrittene Potenzial von Künstlicher Intelligenz im öffentlichen Sektor

Künstliche Intelligenz bietet eine Vielzahl von Möglichkeiten, um Prozesse im öffentlichen Sektor effizienter und effektiver zu gestalten. Das ist nicht erst seit dem bahnbrechenden Erfolg von ChatGPT von OpenAI klar, aber die Anwendung hat für viele Menschen KI greifbar und verständlich in ihren Potenzialen gemacht.
 
Beispiele für den Einsatz von KI-Anwendungen sind die Automatisierung von Verwaltungsaufgaben, die Analyse großer Datenmengen zur Entscheidungsfindung oder die Verbesserung der Kommunikation zwischen Bürgern, Unternehmen und Behörden. Aber das ist erst der Anfang: Welche Potenziale Ki tatsächlich für die Entwicklung im öffentlichen Sektor hat ist noch kaum zu überblicken. 
 
Über diese Potenziale werde ich noch gesondert in einzelnen Beiträgen berichten. 

 

2.   Fünf große Herausforderungen für den Einsatz von KI

Trotz des großen Potenzials von KI gibt es auch rechtliche und ethische Herausforderungen, die berücksichtigt werden müssen. Dazu zählen unter anderem Fragen des Datenschutzes, der IT-Sicherheit, der Haftung und der Transparenz von Entscheidungen, die durch KI-Systeme getroffen werden.

 

2.1   Datenschutz und IT-Sicherheit

Ob Ministerium, Behörde, Gemeinde, Universität oder öffentliches Unternehmen; Überall werden derzeit mutige Beamte und Angestellte davon träumen, auch im öffentlichen Dienst KI in großem Umfang einzusetzen und zu erproben (oder, wenn dies sogar schon erfolgt, den Einsatz noch zu steigern). Doch jede Einheit muss sich klarmachen, dass es eine Reihe von großen rechtlichen Themen gibt, die vor dem Einsatz von KI zu klären sind. Zu den bedeutendsten gehören Fragen des Datenschutzes und der IT-Sicherheit.
 
Der Schutz personenbezogener Daten ist im öffentlichen Sektor von besonderer Bedeutung. KI-Systeme müssen daher so gestaltet sein, dass sie den Anforderungen der Datenschutz-Grundverordnung (DSGVO) entsprechen. Zudem ist die IT-Sicherheit von KI-Anwendungen von großer Bedeutung, um Cyberangriffe und den Missbrauch von Daten zu verhindern. Denn wenn Ki große Datenmengen verarbeitet, wird sie ein beliebtes Ziel für Cyberangriffe von außen sein.

 

2.2   Haftung

Die Frage der Haftung bei Fehlentscheidungen oder Schäden, die durch den Einsatz von KI entstehen, ist noch nicht abschließend geklärt. Es bedarf klarer Regelungen, wer in solchen Fällen haftet – der Betreiber des KI-Systems, der Entwickler oder möglicherweise sogar das KI-System selbst. 
 
Für den öffentlichen Sektor stellt sich die Frage natürlich in ganz besonders hohem Maße, denn ergehen Entscheidungen von Ministerien oder Behörden, die nach außen Unternehmern oder Bürger belasten, so wird selbstverständlich zunächst die öffentliche Stelle Ansprüchen ausgesetzt sein. Aber kann die öffentliche Stelle sich dann schadlos halten bei dem Anbieter des KI-Systems? Wie sieht die Staatshaftung aus bei fehlerhaftem Einsatz von KI - welche Verantwortung haben vielleicht sogar die einzelnen Beamten bzw. Angestellten? Auch diese Haftungsfragen sollten betrachtet werden, bevor Ki in der öffentlichen Verwaltung zum Einsatz kommt.

 

2.3   Transparenz von Entscheidungen

Entscheidungen, die von KI-Systemen getroffen werden, sollten für die betroffenen Personen nachvollziehbar sein. Dies stellt eine Herausforderung dar, insbesondere bei komplexen Algorithmen, deren Entscheidungsfindung für Menschen schwer verständlich ist. 
 
So einfach das im Kern klingt, so bedeutsam ist dies im öffentlichen Sektor. Angenommen, ein Bürger erklärt sich nicht für einverstanden mit Verwaltungsentscheidungen, die von einer KI vorbereitet werden (nicht einmal getroffen werden), etwa, indem er Widerspruch bzw. Klage gegen belastende Verwaltungsakte erhebt, die mit der Ki vorbereitet werden, dann stellen sich vielfältige Folgefragen. Im Widerspruchs- und Klageverfahren hat der Bürger dann einen Anspruch auf Akteneinsicht - und Anwälte werden weiter fordern, dass die Algorithmen, die der Ki-Entscheidung zugrunde lagen, offengelegt werden. Selbst außerhalb von solchen Verfahren könnten Informationsansprüche nach Bundesgesetzen oder Landesgesetzen geltend machen - wie soll damit umgegangen werden? Müssen die Algorithmen wirklich offengelegt werden, sollen sie es - kann das sogar sinnvoll sein, um nachzuweisen, dass die KI-Prozesse nicht von Diskriminierung bzw. Vorurteilen geprägt sind? Das sind Fragen, zu denen sich der öffentliche Sektor verhalten muss.

 

3.   Praktische Bedenken beim Einsatz von Künstlicher Intelligenz

Neben rechtlichen und ethischen Aspekten gibt es auch praktische Herausforderungen beim Einsatz von KI im öffentlichen Sektor.

 

3.1   Qualifikation der Mitarbeiter

Der erfolgreiche Einsatz von KI erfordert qualifizierte Mitarbeiter, die in der Lage sind, die Technologie zu verstehen, zu implementieren und zu steuern. Es bedarf daher einer gezielten Weiterbildung und Förderung von Fachkräften in diesem Bereich. Dies wird eine erhebliche Aus- und Weiterbildung der Beamten und Angestellten des öffentlichen Dienstes erfordern, auf die sich auch der öffentliche Sektor einstellen muss.

 

3.2   Zusammenarbeit zwischen Behörden

Um KI effektiv im öffentlichen Sektor einzusetzen, ist eine enge Zusammenarbeit zwischen verschiedenen Behörden erforderlich. Hierbei gilt es, Synergien zu nutzen und den Austausch von Wissen und Erfahrungen zu fördern. Das erfordert eine konsequente Anwendung und Weiterentwicklung der Prinzipien der Zusammenarbeit, die sich unter dem (alten) Online-Zugangsgesetz (OZG) herausgebildet haben - oder sogar ein Umdenken über Formen der Zusammenarbeit, die bisher noch nicht angedacht worden sind. „Silodenken“ wird hier nicht weiter helfen.

 

4.   Optimistisch und pragmatisch in die Zukunft 

Der Einsatz von Künstlicher Intelligenz im deutschen öffentlichen Sektor bietet große Chancen, um Prozesse effizienter und effektiver zu gestalten. Gleichzeitig müssen rechtliche, ethische und praktische Herausforderungen berücksichtigt werden. Mit einem optimistischen und pragmatischen Ansatz können wir diese Technologie erfolgreich nutzen und dabei die Bedenken und Risiken minimieren. Dabei ist es wichtig, dass wir uns kontinuierlich weiterbilden, zusammenarbeiten und unsere Erfahrungen teilen, um gemeinsam eine zukunftsfähige und verantwortungsvolle Nutzung von Künstlicher Intelligenz im öffentlichen Sektor zu ermöglichen.