Künstliche Intelligenz in der öffentlichen Verwaltung: „Es ist viel zu leicht, KI zu nutzen“

Im öffentlichen Dienst wird Künstliche Intelligenz oft nur oberflächlich verwendet. Der KI-Experte Björn Niehaves plädiert im Interview mit Öffentliche Dienst News für einen tiefergehenden Strukturwandel in der öffentlichen Verwaltung.

Selbst während der Sommerferien ist Björn Niehaves problemlos erreichbar. Der Informatikprofessor der Universität Bremen brennt für sein Thema. Im hohen Norden leitet er die Arbeitsgruppe Digitale Transformation im Öffentlichen Dienst. Sie erforscht das Thema der Digitalisierung der Verwaltung. Er hilft auch bei der Entwicklung konkreter KI-Systeme – von Schleswig-Holstein bis nach Baden-Württemberg. Daneben ist er GovTech-Beauftragter des Finanzsenators in Bremen und im Digitalisierungsbeirat von Dataport AöR in Kiel (ein Digitalisierungsdienstleister). Niehaves kennt die Anforderung und Herausforderung der Digitalisierung und der Künstlichen Intelligenz aus nächster Nähe.

Prof. Dr. Dr. Björn Niehaves – Professor für Informatik an der Universität Bremen / Copyright: Matej Meza/ Universität Bremen

Was bedeutet „KI im Öffentlichen Dienst“ konkret – von welcher Technologie sprechen wir hier?

Niehaves: Manchmal ist es tatsächlich ganz einfach und die Verwaltungsmitarbeiter nutzen die ChatGPT-App. Dann gibt es Bundesländer, die eine eigene ChatGPT-Alternative haben. Die bekanntesten Beispiele sind sicherlich F13 und LLMoin. Viele nutzen außerdem Open-Source-Anwendungen. Daneben gibt es eine ganze Menge KI-Anwendungen, die in den jeweiligen Prozessen sitzen.

Haben Sie dafür praktische Beispiele?

Die Anwendung von KI ist ein extrem breites Feld. Es gibt zum Beispiel ein System der Firma SUMM AI. Das nutzt ein Large-Language-Model (LLM), um Behördensprache in leichte Sprache zu übersetzen. Die Behörden sind verpflichtet das zu tun, und normalerweise übernimmt das ein Übersetzungsbüro. Das dauert aber lange und kostet viel. Auch bei Ausschreibungen kommt bereits eine Künstliche Intelligenz zum Einsatz, die aus früheren Ausschreibungen lernt und bei der Erstellung neuer hilft. Ausschreibungen sind eines der größten Geschäfte in der öffentlichen Verwaltung. Es gibt über 30.000 Ausschreibungsstellen in Deutschland. Das sind öffentliche Behörden, die Geld ausgeben müssen, damit die Ausschreibungen den gesetzlichen Vorgaben genügen. Dieser Prozess ist relativ kompliziert und kostet pro Jahr grob überschlagen 5 Milliarden Euro. Das KI-System der Firma GovRadar kann mit Prompts – und damit mit weniger Aufwand – Ausschreibungsunterlagen generieren. Oder nehmen Sie das System von Vialytics. Die bestücken ein Auto mit Kameras, das KI-System erkennt auf Basis dieser Videoaufnahmen Straßenschäden und macht einen Vorschlag zur Reparaturplanung.

Experte Niehaves über Künstliche Intelligenz in der öffentlichen Verwaltung: „Es ist viel zu leicht, KI zu nutzen“

Das klingt, als sei KI in der Öffentlichen Verwaltung schon gut integriert.

Ich sage spaßeshalber immer, dass es viel zu leicht ist, KI zu nutzen. Es sind schon viele Anwendungen im Einsatz. Das passiert allerdings oft nur auf Tool-Ebene. Von diesem oberflächlichen Einsatz müssen wir aber wegkommen und KI wirklich in den Prozessen einbetten. Das machen die meisten Verwaltungen im Moment noch nicht, da die Prozesse historisch gewachsen sind. Um Prozesse zu verändern, brauche ich ein gutes Veränderungsmanagement und das haben viele Verwaltungen noch nicht. Der nächste Schritt wäre dann, mit eigenen Daten eigene KI-Systeme zu entwickeln, aber welche Verwaltung hat schon ein richtig gutes Datenmanagement? Insofern, ja, KI ist da. Aber eben bisher vorwiegend auf oberflächlicher Ebene als Werkzeug.

Ihre Praxisbeispiele klangen aber nach lohnenswerten Tools?

In Studien haben wir gezeigt, dass da ein Wertschöpfungspotenzial von 15 bis 20 Prozent drinsteckt. Das ist schon relativ viel. Aber für die tieferliegenden Ebenen müssen die Verwaltungen ihre Hausaufgaben machen – Prozessmanagement, Veränderungsmanagement, Datenmanagement. Und darüber täuschen die reinen Zahlen hinweg.

Wie meinen Sie das?

Nehmen Sie eine Kommune A mit 50 Beschäftigten. Die kriegen eine Dienstanweisung, dass sie für Briefe ChatGPT nutzen sollen – natürlich ohne personenbezogene Daten. Dann sind das statistisch gesehen 50 KI-Nutzende und diese Verwaltung ist offiziell bei dem Thema vorne dabei. Gleich daneben liegt eine andere Kommune B, die zwar noch keine KI-Tools nutzt, die aber wirklich gut gemanagt wird und ihre Prozesse und Daten im Griff hat. Die Kommune B könnte mit der richtigen Strategie sehr schnell viel tiefer in die KI-Wertschöpfung kommen und mit den eigenen Daten auch eigene KI-Anwendungen entwickeln. Und genau das macht den Unterschied. Wenn ich Probleme wie den engen Haushalt, den demografischen Wandel und den Fachkräftemangel angehen will, muss ich in die Wertschöpfung kommen. Kommune A glänzt also auf dem Papier, Kommune B ist mit Blick auf das, was wir mit KI wirklich erreichen können, aber deutlich besser aufgestellt.

Setzt die Öffentliche Verwaltung denn KI aus Überzeugung ein oder nur, weil sie es aufgrund der erwähnten Herausforderungen wie des Fachkräftemangels tun muss?

Wir brauchen die Produktivität, die künstliche Intelligenz in der öffentlichen Verwaltung bietet, sonst weiß ich offen gesagt nicht, wie vor dem Hintergrund des Fachkräftemangels – Studien sprechen von 700.000 fehlenden Fachkräften – das System am Laufen gehalten werden soll. Künstliche Intelligenz ist da tatsächlich das Mittel der Wahl.

Wenn es für den Einsatz aber Prozessmanagement benötigt, muss auch das Führungspersonal dahinterstehen. Ist das der Fall?

Wir haben dazu die größte Studie nicht nur in Deutschland, sondern tatsächlich weltweit gemacht und über 10.000 Mitarbeitende in der öffentlichen Verwaltung befragt. Die werten wir zwar gerade noch aus, aber es gibt grundsätzlich eine hohe Akzeptanz. Für den konkreten Einsatz am eigenen Arbeitsplatz haben wir Akzeptanzquoten von 80 bis 90 Prozent. Bei den Führungskräften speziell kommt es aber natürlich ganz auf die Verwaltung an.

Ein großes Problem der KI ist die Nachverfolgbarkeit. Oft sehe ich die Antwort, weiß aber nicht, wie die KI zu diesem Ergebnis kommt. Ist das auch in der Verwaltung ein Problem?

Die Lösung heißt ‚Explainable AI‘. Es gibt durchaus KI-Systeme, die in ihren Antworten sagen, wie sie zu bestimmten Argumenten gekommen sind – und das ist wichtig. Ich kann nicht einfach über eine KI Sozialleistungen kürzen, ablehnen oder erhöhen, sondern muss die Entscheidung erklären können.

Ein großer Diskussionspunkt bei Künstlicher Intelligenz ist immer der Datenschutz. Bei der öffentlichen Verwaltung ist der besonders wichtig.

Vorab muss gesagt werden, dass in Deutschland der Datenschutz sehr streng ist. Bei den klassischen, zugekauften Tools spielt Datenschutz eine weniger prominente Rolle, weil die Anwendungen zumindest nicht mit eigenen Daten trainiert werden. Bei der Eingabe können die personenbezogenen Daten dann automatisch durch Pseudonyme ersetzt werden. Kritisch wird es dann, wenn ich eigene Anwendungen trainieren möchte. Aber über welche Anwendungen und Daten reden wir da? In der sozialen Finanzverwaltung, muss man sich viele Gedanken machen. Im Umweltschutzbereich, wo es um die Auswertungen städtischer Sensordaten geht, eher nicht. Das gleiche gilt im Mobilitätsbereich. Es gibt viele Anwendungen, in denen der Datenschutzreflex nicht wirklich anwendbar ist. Es gilt immer, den Einzelfall zu prüfen.

Was wünschen Sie sich denn von den Entscheidungsträgern, um das Thema KI in der öffentlichen Verwaltung schnell voran zu bringen?

Ein Erfolgsrezept ist, die Marktakteure zu aktivieren. Ich glaube nicht, dass jedes Bundesland ein eigenes KI-System entwickeln muss, das kann auch ein europäischer Anbieter machen. Mein zweiter Wunsch wäre ein plattformbasierter Ansatz. Dass man sich also überlegt, was die grundsätzlichen Strukturen sind, die man schaffen kann, um dann einzelne Systeme anzudocken. So entstehen nicht tausende kleine Lösungen und Anwendungen parallel, die ja auch alle gepflegt werden müssen. Und weil man immer drei Wünsche freihat, wünsche ich mir, dass die Organisationen ihre Hausaufgaben machen – sprich Prozessmanagement, Veränderungsmanagement und Datenmanagement.