Künstliche Intelligenz drängt zunehmend in den Arbeitsalltag – auch im öffentlichen Dienst. Mit Pilotprojekten und Schulungen versucht die Verwaltung das Potenzial der Technik zu heben. Unsere exklusive Übersicht soll zeigen, wie weit Bund und Länder tatsächlich sind.
Auf den ersten Blick scheint Künstliche Intelligenz (KI) wie geschaffen für den Öffentlichen Dienst. Auf der einen Seite kann die Technik große Mengen Daten analysieren, Informationen vereinfachen und übersichtlich darstellen und ist ideal geeignet, um Prozesse und Abläufe zu steuern. Auf der anderen Seite ringt die Verwaltung mit einem Fachkräftemangel und muss das Versprechen eines schlankeren, schnelleren und digitaleren Staates erfüllen. Man könnte von einem „perfect match“ sprechen.
Aktuell haben 153.000 Beschäftigte aus dem öffentlichen Dienst unseren Newsletter abonniert. Wer auf dem Laufenden bleiben möchte, abonniert hier…
Dagegen spricht, dass der öffentliche Dienst verlässlich sein muss. Was die Verwaltung sagt und vorgibt, muss stimmen und nachvollziehbar sein. Hier kommen außerdem sensible Daten zusammen, die unter allen Umständen geschützt sein müssen. Zudem muss der öffentliche Dienst unabhängig agieren und sich nur an dem Gesetz orientieren. Doch ausgerechnet bei all diesen Punkten, die eine Verwaltung auszeichnen, hakt es bei der KI. Wie ist also der Stand der Technik und welche Pläne gibt es für 2026? Eine Übersicht.
Künstliche Intelligenz im öffentlichen Dienst
Bund: Fokus auf digitale Souveränität und „KIPITZ“
Auf Bundesebene hat das Informationstechnikzentrum Bund (ITZBund) eine KI-Plattform geschaffen: KIPITZ. Es dient mit zentralen Anwendungen für Textgenerierung und Wissensdatenbanken als technisches Rückgrat. Dabei verfolgt der Bund eine klare Strategie: Innerhalb von KIPITZ werden ausschließlich Open-Source-Sprachmodelle genutzt, um Lock-in-Effekte zu vermeiden und die digitale Souveränität zu stärken. Über den „Deutschland-Stack“ soll diese Infrastruktur künftig auch Ländern und Kommunen offenstehen. Transparenz schafft zudem der Marktplatz der KI-Möglichkeiten (MaKI). In puncto Qualifizierung setzt der Bund auf den Lernpfad der Bundesakademie (BAköV): Seit 2023 nahmen rund 5.300 Bedienstete an Präsenzfortbildungen teil, während über 7.800 die On-Demand-Angebote nutzten. Für das Jahr 2026 sind bereits rund 1.200 weitere Schulungsteilnehmer angemeldet.
Baden-Württemberg: Das „Betriebssystem“ für Verwaltungs-KI
Baden-Württemberg hat mit der KI-Anwendung F13 Pionierarbeit geleistet. Das System war die bundesweit erste KI-Assistenz im produktiven Einsatz und steht seit 2024 allen Landesbediensteten zur Verfügung; bis Ende 2026 werden über 100.000 Nutzer erwartet. Technisch setzt das Land konsequent auf einen Open-Source-Ansatz und stellt seine Architektur auf der Plattform „Open CoDE“ zur Verfügung, um ein gemeinsames „Betriebssystem“ für die deutsche Verwaltung zu etablieren. Besonders wichtig: Die Architektur ist modellunabhängig. Um die Souveränität zu sichern, kooperiert das Land eng mit dem Heidelberger Unternehmen Aleph Alpha, dessen Sprachmodelle („Luminous“) eine tragende Rolle in der baden-württembergischen KI-Strategie spielen.
Bayern: Mit der „BayernKI“ zur digitalen Souveränität
Im Freistaat übernimmt das Finanzministerium die Federführung beim Roll-out der „BayernKI“. Seit Oktober 2024 wird diese multifunktionale Anwendung schrittweise in der gesamten Staatsverwaltung und in Pilotkommunen eingeführt. Bayern verfolgt dabei einen hybriden Pfad: Um Datenschutz und Souveränität zu gewährleisten, betreibt das Land eine eigene KI-Infrastruktur in staatlichen Rechenzentren, was die Verarbeitung besonders sensibler Daten ermöglicht. Perspektivisch soll ein Mix aus kommerziellen Lösungen und Eigenentwicklungen zum Einsatz kommen. Ein zentraler Partner ist hierbei ebenfalls das Unternehmen Aleph Alpha, mit dem Bayern eine strategische Partnerschaft zur Integration von KI in die Verwaltungsabläufe geschlossen hat
Berlin: „BärGPT“ und Transparenz
In der Hauptstadt setzt die Verwaltung seit November 2025 auf BärGPT, einen vom CityLAB Berlin entwickelten KI-Assistenten. Das Tool basiert weitgehend auf Open Source und nutzt das Sprachmodell des französischen Anbieters Mistral, gehostet auf der deutschen Cloud-Infrastruktur von Stackit. Ein besonderes Merkmal ist das integrierte RAG-System, das Antworten durch Quellenangaben transparent macht. Auch für die Bürger gibt es Neuerungen: Seit September 2025 pilotiert Berlin den 115-KI-Chatbot für Auskünfte zu Verwaltungsleistungen. Parallel zur Technik rollt Berlin ein Multiplikatoren-Konzept aus: Sogenannte „BärGPT-Lotsen“ tragen das Wissen in die Behörden, unterstützt von wöchentlichen Sprechstunden und Schulungen.
Brandenburg: In den Starlöchern
Brandenburg bereitet derzeit den großen Roll-out vor. Das Ministerium der Justiz und für Digitalisierung forciert aktuell die Einführung eines allgemeinen KI-Assistenztools, das den Verwaltungsalltag der Mitarbeitenden entlasten soll. Ziel ist es, administrative Prozesse zu automatisieren und die Entscheidungsfindung zu unterstützen, um mehr Kapazitäten für den direkten Bürgerservice zu schaffen. Technisch setzt Brandenburg auf Kooperation statt Alleingänge: Das Land befindet sich in fortgeschrittenen Abstimmungen mit einem öffentlichen Partner zur Bereitstellung der Infrastruktur. Auch wenn Details zum Anbieter noch unter Verschluss sind, liegt der Fokus klar auf einer landesweiten, einheitlichen Lösung, die voraussichtlich im Laufe des Jahres 2026 vollumfänglich zur Verfügung stehen wird.
Bremen: Strategische Allianz mit Universität Bremen
In Bremen ist der KI-Assistent LLMoin bereits fester Bestandteil der Kernverwaltung und vieler Eigenbetriebe. Die Hansestadt legt besonderen Wert darauf, dass die Technologie nicht isoliert betrachtet wird: In enger Kooperation mit der Universität Bremen wird aktuell eine umfassende KI-Strategie entwickelt, um die Transformation langfristig zu steuern. Technisch vertraut Bremen auf den öffentlichen IT-Dienstleister Dataport, der LLMoin speziell für die hohen Sicherheitsanforderungen der Trägerländer entwickelt hat. Das System fungiert als datenschutzkonformer Textassistent, der das Zusammenfassen und Generieren von Inhalten ermöglicht, ohne dass sensible Verwaltungsdaten den geschützten Raum verlassen.
Hamburg: „LLMoin“ als Vorreiter der Verwaltungs-KI
Hamburg nimmt bei der Entwicklung von LLMoin eine Schlüsselrolle ein, das Amt für IT und Digitalisierung der Senatskanzlei und Dataport das Tool gemeinsam konzipiert haben. Der Assistent bietet spezialisierte Funktionen für Textentwürfe und Recherchen, die über eine gesicherte Web-Oberfläche zugänglich sind. Technisch basiert Hamburgs Lösung aktuell auf einem GPT-4.1-Modell von OpenAI, das über europäische Microsoft-Azure-Server DSGVO-konform angebunden ist. Ein wichtiger Aspekt der digitalen Souveränität: Die technische Struktur ist so flexibel, dass sie nicht an einen bestimmten Anbieter oder ein spezielles KI-Modell gebunden ist. Dadurch kann die Verwaltung jederzeit auf modernere Sprachmodelle wechseln. Damit ist das Land weder von OpenAI noch von Microsoft abhängig. Begleitet wird der Roll-out durch ein massives Qualifizierungsprogramm, um die KI-Kompetenz der Beschäftigten nachhaltig zu sichern.
Hessen: „AIGude“ – KI mit hessischem Einschlag
In Hessen wird das Jahr 2026 zum Schlüsseljahr: Die Hessische Zentrale für Datenverarbeitung stellt dann eine cloudbasierte Plattform bereit, die als technisches Fundament für die gesamte Landesverwaltung dient. Das Herzstück für die Beschäftigten ist die Pilotanwendung AIGude. Der modular aufgebaute Assistent unterstützt aktuell rund 1.000 Testnutzer bei der Texterstellung und Recherche. Technisch basiert das Tool auf dem Sprachmodell Mixtral 8x7b des Anbieters Mistral und wurde gemeinsam mit dem Partner Sopra Steria auf Open-Source-Basis entwickelt. Um die Belegschaft fit für den KI-Alltag zu machen, setzt Hessen auf eine informative Basis-Broschüre und gezielte Schulungen, die auch die rechtlichen Anforderungen der EU-KI-Verordnung abdecken.
Mecklenburg-Vorpommern: Kooperation statt Doppelarbeit
Mecklenburg-Vorpommern setzt konsequent auf das Prinzip „Einer für Alle“. Das Land beteiligt sich aktiv am bundesweiten Marktplatz der KI-Möglichkeiten (MaKI), um Synergien zu nutzen und erfolgreiche Lösungen anderer Länder zu übernehmen. Die technische Umsetzung erfolgt durch den landeseigenen Dienstleister DVZ M-V GmbH, der eine Lösung auf Open-Source-Basis entwickelt. Während Interface und Daten im Land bleiben, plant Mecklenburg-Vorpommern, das eigentliche Sprachmodell aus Wirtschaftlichkeitsgründen über einen externen, DSGVO-konformen deutschen Dienstleister zu beziehen. Ziel ist es laut Digitalisierungsminister Dr. Heiko Geue, durch KI die Prozesse effizienter zu gestalten und Doppelstrukturen in der Entwicklung konsequent zu vermeiden.
Niedersachsen: Gemeinsame Lösung aus dem Norden
In Niedersachsen bündelt ein zentrales KI-Kompetenzzentrum gemeinsam mit den IT-Dienstleistern IT.Niedersachsen und Dataport die Kräfte. Das Land bereitet aktuell die flächendeckende Einführung von zwei Systemen für alle Landesbediensteten vor: dem aus Hamburg bekannten Text-Assistenten LLMoin sowie dem Microsoft Copilot Chat. Beide Anwendungen greifen in der Azure-Cloud auf die GPT-Modelle von OpenAI zu. Niedersachsen setzt damit – zumindest derzeit – auf Marktführer statt auf Open Source. Ziel ist es, durch eine besonders einfache Benutzeroberfläche die Einstiegshürden für die Belegschaft so gering wie möglich zu halten und die tägliche Recherche- und Schreibarbeit effizient zu unterstützen.
Nordrhein-Westfalen: Vorreiter bei Fach-KI
Nordrhein-Westfalen setzt auf Lösungen von gleich mehreren Anbietern (Multi-Vendor-Strategie) auf unterschiedlichen Ebenen. Zum einen dürfen 33.000 Beschäftigte bereits seit dem Jahr 2025 kommerzielle KI-Chatbots nutzen, um unkritische Daten zu verarbeiten. Dazu kommt das Assistenzsystem „NRW.Genius“. Erwähnenswert ist aber vor allem die Pionierarbeit des Landes bei spezialisierter Fach-KI. So nutzt die Verwaltung KI beispielsweise im Vergabewesen. Über einen landesweiten Rahmenvertrag mit dem Start-up GovRadar verwenden hunderte Behörden und über 160 Kommunen KI, um komplexe Ausschreibungen automatisiert vorzubereiten. Auch die Finanzverwaltung setzt bereits Projekte aktiv um. in eigenes KI-Modul zur Steuerveranlagung sowie ein „KI-Cloud-Inkubator“ im Rechenzentrum der Finanzverwaltung sichern künftig den souveränen Betrieb leistungsfähiger Fach-Anwendungen.
Rheinland-Pfalz: Dreiklang im „KI-Ökosystem“
Rheinland-Pfalz verfolgt ein systematisches, dreistufiges Modell, um die Verwaltung fit für die Zukunft zu machen. In der aktuellen Pilotphase sammeln Beschäftigte Erfahrungen mit der govdigital-LLM-Sandbox sowie dem Textassistenten LLMoin. Parallel dazu wird die Erprobung des Open-Source-Systems F13 vorbereitet. Das Ziel dieses mehrgleisigen Vorgehens ist ein fundierter Vergleich verschiedener Technologien. Langfristig plant das Land den Betrieb einer souveränen KI-Plattform („on-Premises“) im eigenen Landesbetrieb Daten und Information (LDI). Dies soll ein Höchstmaß an Sicherheit garantieren und die Verarbeitung sensibler Daten ermöglichen. Begleitet wird dieser Prozess durch die Broschüre „KI-Ökosystem Rheinland-Pfalz“, die Leitlinien für einen rechtskonformen Umgang mit der Technik vorgibt.
Saarland: Erster „EfA-Nachnutzer“ der F13-Assistenz
Das Saarland hat eine Vorreiterrolle eingenommen, indem es als erstes Bundesland die KI-Lösung F13 aus Baden-Württemberg im Rahmen nachnutzt. Dieser „Einer-für-Alle“-Ansatz (EfA) spart Entwicklungszeit und fördert die bundesweite Standardisierung. Seit April 2025 stehen den saarländischen Pilotnutzern Module wie die „Textwerkstatt“ und das „Saarchiv“ zur Verfügung. Technisch bekennt sich das Saarland klar zu Open Source und trägt bereits mit eigenen Entwicklungen aktiv zur F13-Community bei. Während die Benutzeroberfläche künftig flexibel austauschbar sein soll, setzt das Land im Hintergrund auf sogenannte open-weight Modelle namhafter Anbieter, behält aber die Entwicklung rein quelloffener Alternativen im Blick.
Sachsen: Kommunale Pioniere
Sachsen positioniert sich weniger über eine zentrale Landeslösung, sondern sieht sich als ganzheitlicher Pionier. Seit 2023 bündelt eine eigene Kompetenzstelle KI unter dem Dach der Digitalagentur Sachsen die Vernetzung von Wissenschaft, Wirtschaft und Verwaltung. Ein Alleinstellungsmerkmal ist dabei das heimische Cluster „Silicon Saxony“. Sächsische Kommunen haben eine Reihe praktische Anwendungen für KI im Alltag erarbeitet. Während die Stadt Markkleeberg den Straßenzustand KI-gestützt per Smartphone-Scan überwacht, erprobt Leipzig KI-Assistenten bei der Wohngeldbearbeitung. Zudem engagiert sich der Freistaat in der Forschung an souveränen europäischen Sprachmodellen wie OpenGPT-X, um langfristig Alternativen zu US-Anbietern zu fördern.
Sachsen-Anhalt: Zwischen Bürgerdialog und Hochtechnologie
Die Verwaltung in Sachsen-Anhalt erprobt den KI-Assistent LLMoin derzeit intensiv und fokussiert sich dabei auf Aufgaben wie Textgenerierung, Dokumentenzusammenfassungen und die Bearbeitung von Bürgeranfragen. Allerdings versucht das Land einen schritt weiter zu gehen. Während andernorts primär GPT-4.1 genutzt wird, bereitet Sachsen-Anhalt mit der Plattform IBM WatsonX eine eigene „On-Premise“-Lösung vor. Dies ermöglicht es, Sprachmodelle wie Llama 3.3 in einer kontrollierten, landeseigenen Umgebung zu hosten. Neben dem allgemeinen Schreibdienst setzt das Land bereits spezialisierte KI-Verfahren ein, etwa zur „Potentialflächenerkennung mittels Luftbildauswertung“. Im landeseigenen Beteiligungsportal gibt es einen digitalen Schulungspfad, um die Belegschaft entsprechend weiterzubilden.
Schleswig Holstein: Das Open-Source-Land
Schleswig-Holstein setzt bei Sprachmodellen konsequent auf Open Source. Während bestehende Chatbots bereits den Bürgerservice unterstützen, wird für die Landesbeschäftigten aktuell der KI-Assistent LLMoin über den IT-Dienstleister Dataport eingeführt. Ansonsten investiert das Land großzügig in spezialisierte KI-Ökosysteme. Ein Vorzeigeprojekt dieser Subvention ist das Medizincluster in Lübeck, wo das DFKI-Labor mit Millionenförderung an KI-Lösungen für die Gesundheitswirtschaft forscht. Auch der Mittelstand und die Landwirtschaft profitieren von gezielten Förderungen, etwa durch KI-Plattformen für Expertenwissen oder Apps zur Ertragsoptimierung.
Thüringen: Souveränität dank eigener Cloud
Thüringen hat Ende 2025 die Pilotphase des KI-Textassistenten F13 abgeschlossen und plant für das Jahr 2026 den flächendeckenden Roll-out. Das Land setzt dabei auf ein besonders hohes Sicherheitsniveau. So wird die Anwendung vollständig in der landeseigenen Thüringer Verwaltungscloud – also On-Premise – betrieben. Durch diesen lokalen Betrieb ist keine Anbindung an externe Cloud-Anbieter notwendig, was die Verarbeitung sensibler und personenbezogener Daten ermöglicht. Thüringen nutzt dabei den „Einer-für-Alle“-Ansatz und greift auf die in Baden-Württemberg entwickelte Open-Source-Software zurück. Ein eigener Wissensraum (RAG) soll zudem sicherstellen, dass die KI spezifische Informationen der Thüringer Verwaltung präzise verarbeiten kann.
