Künstliche Intelligenz in der deutschen Verwaltung: Neun Fehler, die vermieden werden müssen

Künstliche Intelligenz (KI) hat das Potenzial, die Art und Weise grundlegend zu verändern, wie die deutsche Verwaltung arbeitet. Doch trotz der vielversprechenden Möglichkeiten, die KI bietet, gibt es auch Risiken und Herausforderungen, die bei der Implementierung und Nutzung von KI in der deutschen Verwaltung berücksichtigt werden müssen. 

Der folgende Beitrag soll neun Fehler aufzeigen, die die deutsche Verwaltung bei der Implementierung von KI vermeiden sollte:

 

1.  Fehlendes Verständnis für KI:

Der grundlegendste Fehler, der vermieden werden sollte, ist es, KI „um der KI willen“ einsetzen zu wollen. KI ist ein Tool, das helfen soll und daher effektiv eingesetzt werden muss - und nicht, weil gerade alle über ChatGPT sprechen.

Um KI effektiv einzusetzen, ist es wichtig, dass Entscheidungsträger und Mitarbeiter in der Verwaltung ein grundlegendes Verständnis dafür haben, wie KI funktioniert und welche Möglichkeiten und Grenzen sie bietet. Ein solides Verständnis hilft dabei, realistische Erwartungen an KI-Systeme zu setzen und ihre Ergebnisse besser interpretieren zu können.

Nur auf diese Weise können sinnvolle Einsatzmöglichkeiten für KI entwickelt werden - und kann „Aktionismus“ auch zu Lasten des Steuerzahlers (etwa durch teure Beauftragung von Beratungsunternehmen) verhindern. 

Hier empfiehlt sich, durch Workshops und Fortbildungen zunächst kurzfristig ein grundlegendes Verständnis zu KI zu verschaffen - auch auch beispielsweise zu den Schwächen von ChatGPT von OpenAI, die es nämlich durchaus gibt.

 

2.  Mangelnde Kooperation:

Wie auch bei anderen digitalen Lösungen in der Verwaltung gilt auch bei KI aus meiner Sicht: Silodenken hilft nichts. Es kommt auf die Zusammenarbeit an. 

Die erfolgreiche Implementierung von KI in der Verwaltung erfordert eine enge Zusammenarbeit zwischen verschiedenen Behörden und Fachbereichen. Ein Silodenken, wie es häufig in der Bürokratie vorkommt, kann dazu führen, dass wertvolles Wissen und Erfahrungen nicht geteilt werden und die Effektivität von KI-Anwendungen beeinträchtigt wird. Zudem baut sonst jeder seine eigene Lösung auf Landes- oder sogar auf kommunaler Ebene. 

Gerade bei der Frage, mit welchen Daten eine KI trainiert wird oder auf welche sie zugreifen soll, spielen (rechtlich saubere) Kooperationen zwischen verschiedenen Verwaltungsträgern eine große Rolle (siehe dazu auch den nächsten Punkt).

 

3.  Unzureichende Datenqualität:

Daten sind das Herzstück jeder KI-Anwendung. Wie Immanuel Kant einst sagte: "Der Verstand kann ohne Sinnlichkeit nicht denken." Ähnlich kann eine KI ohne qualitativ hochwertige Daten keine sinnvollen Ergebnisse liefern. Deutsche Behörden müssen sicherstellen, dass sie über saubere, genaue und repräsentative Daten verfügen, bevor sie KI-Systeme implementieren. 

Gerade hier kann die Zusammenarbeit zwischen Behörden und verschiedenen Verwaltungsträgern eine große Rolle spielen - sowohl was die Trainingsdaten als auch die Anwendungsdaten betrifft.

 

4.  Vernachlässigung von Ethik und Datenschutz:

Datenschutz und ethische Fragen sind von entscheidender Bedeutung bei der Implementierung von KI in der Verwaltung.

Deutsche Behörden müssen sicherstellen, dass sie ethische Richtlinien und Datenschutzbestimmungen einhalten, um das Vertrauen der Bürger in KI-Systeme zu gewährleisten und potenzielle Missbräuche zu verhindern. 

Dabei gilt: In vielerlei Hinsicht ist die Nutzung von KI in der deutschen Verwaltung sowohl rechtlich möglich als auch ethisch gut darstellbar. Schon jetzt erlaubt die Rechtslage den Einsatz von KI in der Kommunikation zwischen Verwaltung und Bürger, in der Entscheidungsvor- und in der Entscheidungsnachbereitung. Davon zu trennen ist die Frage der Entscheidungsautomatisierung, also der „automatischen Entscheidung“ durch KI (etwa den automatisch generierten Verwaltungsakt). Hier gelten höhere rechtliche Hürden. Aber gerade in der Entscheidungsvorbereitung, in der Datensammlung und in der Datenauswertung sowie dem Herstellen von Verbindungen zwischen verschiedenen Daten kann KI der Verwaltung eine große Entlastung sein. Der Datenschutz ist dabei zu beachten, aber auch hier gibt es Lösungen. Wichtig ist es nur, bei der Gestaltung und der anstehenden Implemtierung von KI datenschutzrechtliche (und natürlich auch andere rechtliche) Aspekte mitzubetrachten.

 

5.  Unzureichende Investitionen in Infrastruktur und Personal:

KI-Anwendungen benötigen eine solide technische Infrastruktur und qualifizierte Mitarbeiter, um effektiv eingesetzt werden zu können. Ohne ausreichende Investitionen in diese Bereiche riskieren deutsche Behörden, dass ihre KI-Projekte scheitern oder nur begrenzte Ergebnisse liefern.

Gerade deswegen unterstützen wir bei Fieldfisher auch das wichtige LEAM-AI - Projekt des KI Bundesverbandes, das auf die Etablierung eines Large Foundation KI Modells in Deutschland abzielt. 

 

6.  Fokussierung auf kurzfristige Erfolge:

KI hat das Potenzial, langfristige und tiefgreifende Veränderungen in der Verwaltung herbeizuführen. Es ist wichtig, dass deutsche Behörden nicht nur kurzfristige Erfolge anstreben, sondern auch langfristige Strategien entwickeln, um das volle Potenzial von KI auszuschöpfen. Das ist insbesondere deswegen wichtig, weil sich KI derzeit exponentiell entwickelt. Es ist daher wichtig, sich die „großen Gedanken“ neben den „kleinen Lösungen“ zu machen: Wohin wollen wir hin mit KI in der Verwaltung? Was wollen wir erreichen? Wie soll KI Beamte und öffentliche Angestellte unterstützen?

 

7.  Überbewertung der KI:

Wichtig ist, die Möglichkeiten von KI weder unter- noch überzubewerten.

Auch wenn KI in vielen Bereichen menschliche Fähigkeiten übertreffen kann, sollte sie nicht als Ersatz für menschliche Intuition und Urteilsvermögen betrachtet werden. Wie der Physiker und Nobelpreisträger Richard Feynman sagte: "Computer sind unglaublich schnell, präzise und dumm; Menschen sind unglaublich langsam, unpräzise und brillant." Die Kombination von KI-Systemen und menschlicher Expertise ist entscheidend für den Erfolg von KI-Projekten in der Verwaltung. Gerade das sollten die Entscheidungsträger in der Verwaltung auch gleich kommunizieren: Beamte und öffentliche Angestellte werden nicht unnütz oder ersetzt; sie sollen mit der KI zusammen arbeiten, diese als Werkzeug nutzen, nicht als Feind verstehen.

 

8.  Mangelnde Transparenz und Kommunikation:

Deutsche Behörden müssen transparent und offen über ihre KI-Projekte kommunizieren, um das Vertrauen der Bürger zu gewinnen und mögliche Ängste oder Missverständnisse zu zerstreuen. Eine offene Kommunikation hilft auch dabei, wertvolles Feedback von Bürgern und Experten zu erhalten, das zur Verbesserung von KI-Anwendungen beitragen kann. Zudem wird sich auch im Hinblick auf Transaprenzgesetze und Informationsfreiheitsgesetze die Frage stellen, inwieweit die Funktionsweisen der KI auf solche Anfragen offen gelegt werden müssen. Auch diese (rechtliche) Frage sollte bewertet werden.

 

9.  Keine ausreichende Evaluation und Anpassung:

KI-Systeme sollten kontinuierlich evaluiert und angepasst werden, um ihre Leistung zu optimieren und potenzielle Fehler oder Verzerrungen zu identifizieren. Deutsche Behörden müssen sicherstellen, dass sie über geeignete Mechanismen verfügen, um die Leistung ihrer KI-Anwendungen zu überwachen und bei Bedarf Verbesserungen vorzunehmen. Auf diese Weise kann eine ständige Fortentwicklung von KI gesichert werden.


Künstliche Intelligenz bietet große Chancen für die deutsche Verwaltung, aber es ist wichtig, mögliche Fehler und Herausforderungen zu erkennen und zu adressieren. Durch die Berücksichtigung der hier aufgeführten Punkte können deutsche Behörden sicherstellen, dass sie das Potenzial von KI voll ausschöpfen und gleichzeitig Risiken minimieren. Nur so kann KI dazu beitragen, eine effizientere, transparentere und bürgernahe Verwaltung zu schaffen.