Generative KI in der öffentlichen Verwaltung: Herausfordernd, aber von großem Nutzen

Von Roland Kunz*

Behörden stehen unter Druck, ihre Digitalisierung voranzutreiben, um die wachsenden Erwartungen von Bürgern und Unternehmen trotz Fachkräftemangel besser erfüllen zu können. Generative KI bietet hier große Chancen, Services zugänglicher zu gestalten, Bearbeitungszeiten zu verkürzen und Mitarbeiter zu entlasten. Die Entwicklung und der Betrieb von KI-Anwendungen sind jedoch mit Herausforderungen verbunden.

Rund 150.000 Fachkräfte fehlen laut dem DBB derzeit allein den deutschen Kommunal- und Steuerverwaltungen. In den kommenden Jahren dürfte sich der Personalmangel noch deutlich verschärfen, wenn zahlreiche ältere Mitarbeiter aus dem Dienst ausscheiden. Zugleich steigt die Erwartungshaltung von Bürgern und Unternehmen, die sich eine bessere Ausrichtung der öffentlichen Verwaltung an ihren Bedürfnissen und Problemen wünschen. Zu den wichtigsten Forderungen zählen mehr digitale Services, eine schnellere und unbürokratischere Bearbeitung von Anfragen und Anträgen sowie verständlichere Formulare und Schriftstücke.

Für Behörden führt daher kein Weg an einer weiteren Digitalisierung vorbei, wobei vor allem in Generativer KI (GenAI) ein enormes Potenzial liegt, die Arbeit der öffentlichen Verwaltung zu revolutionieren. Denn die hinter GenAI stehenden großen Sprachmodelle (Large Language Models, LLMs) werden mit riesigen Datenmengen trainiert und können Anfragen in Sekundenschnelle verstehen und beantworten, und das in einer Vielzahl von Sprachen. Damit eignen sie sich ideal für moderne Chat- und Sprachbots, die rund um die Uhr erreichbar sind und die Kommunikation mit Behörden deutlich verbessern, weil sie nicht vorgegebenen Gesprächsfäden folgen, sondern einen richtigen Dialog führen.

GenAI benötigt behördenspezifisches Wissen

Zwar stehen viele Sprachmodelle zur Auswahl bereit, doch diese sind auf das Wissen aus ihrer Trainingsphase und öffentlich zugängliche Informationen beschränkt. Um fachliche Anfragen an Behörden präzise beantworten zu können, benötigen sie darüber hinaus behörden- spezifisches Wissen. Dieses erhalten sie durch ein zusätzliches Training mit speziell aufbereiteten Datensätzen – das sogenannte Fine-Tuning.

Alternativ dazu lassen sich auch Informationsquellen wie Datenbanken und Verzeichnisse mit Dokumenten anbinden, die das Modell durchsuchen kann. Dieser Ansatz nennt sich Retrieval Augmented Generation (RAG). Das Sprachmodell steuert in diesem Fall vor allem die generativen Fähigkeiten bei, während das fachliche Know-how aus dem externen Wissensschatz kommt.

Ein Fine-Tuning ist zwar sehr aufwendig, bietet aber mehr Anpassungsmöglichkeiten als RAG – etwa in Bezug auf spezielle Aufgaben oder den Stil der Antworten. Allerdings muss das Fine-Tuning regelmäßig durchgeführt werden, um das Modell auf dem aktuellen Wissensstand zu halten, wenn sich die behördenspezifische Datenbasis verändert. Mittels RAG kann das Modell hingegen stets auf den aktuellen Informationsstand zugreifen, weshalb beide Ansätze oft in Kombination genutzt werden: Fine-Tuning für detaillierte Anpassungen des Modells und RAG für stets aktuelles Fachwissen.

GenAI unterstützt Bürger, Unternehmen und Mitarbeiter

Neben dem Einsatz in Chat- und Sprachbots eignet sich GenAI auch für eine Vereinfachung von Antragsverfahren. Auf der Technologie basierende Assistenten können Bürger und Unternehmen durch den gesamten Prozess führen, also alle notwendigen Informationen im Dialog abfragen und an den richtigen Stellen in die passenden Formulare eintragen, sodass sich die Antragsteller nicht im Detail mit den oft komplizierten Anträgen auseinandersetzen müssen. Die Assistenten würden zudem darauf hinweisen, wenn weitere Daten oder Unterlagen benötigt werden – und damit Rückfragen der Behördenmitarbeiter überflüssig machen und eine Verzögerung der Bearbeitung verhindern.

Die automatische Prüfung der Formulare kommt natürlich auch den Mitarbeitern zugute, die viel weniger Angaben als bisher manuell kontrollieren müssen, was nicht nur zeitraubend, sondern auch fehleranfällig ist. GenAI kann alle Daten auf Plausibilität hin prüfen und mit vorhandenen Informationsquellen abgleichen – und sogar Auffälligkeiten an den getätigten Angaben und eingereichten Dokumenten erkennen, die auf Betrugsversuche hindeuten.

Darüber hinaus ist GenAI in der Lage, eingehende Anfragen auszuwerten und automatisch an die jeweils richtige interne Stelle weiterzuleiten. GenAI könnte sogar schon eine Antwort vorformulieren oder Informationen, die Mitarbeiter für eine Entscheidung und Antwort benötigen, zusammentragen und übersichtlich aufbereiten. Dieselben Mechanismen helfen übrigens auch, Anfragen von Behörden oder Parlamenten zu beantworten, die häufig einen großen Rechercheaufwand nach sich ziehen und viel Personal binden.

Überhaupt erleichtert GenAI die Informationsbeschaffung im Behördenalltag erheblich. Die Technologie vermag lange Dokumente zusammenzufassen und Inhalte passgenau aus unterschiedlichen Quellen zu extrahieren – Mitarbeiter müssen diese nicht mühsam selbst durchforsten, sondern stellen ihrem GenAI-Assistenten einfach Fragen im Stile von „Wie viele Förderanträge sind in der ersten Jahreshälfte 2024 für das Förderprogramm XYZ eingegangen? Wie viele Anträge wurden bewilligt? Wie viele Fördermittel wurden bereits ausgezahlt und an welche Unternehmen?“

Am Ende entscheidet ein Mensch

Die Beispiele zeigen, dass GenAI vielseitig einsetzbar ist, Mitarbeiter in Behörden deutlich entlasten und die Kommunikation zwischen Behörden und Bürgern beziehungsweise Behörden und Unternehmen grundlegend verbessern kann. Im Grunde könnten GenAI- Anwendungen viele Entscheidungen sogar vollständig automatisiert treffen, doch in den meisten Fällen sollen und dürfen sie das nicht – etwa, weil es Ermessensspielräume gibt, sensible Lebensbereiche von Bürgern betroffen sind oder Gesetze wie DSGVO oder EU AI Act dem entgegenstehen. Letztlich ist GenAI nur ein Werkzeug, das Mitarbeiter unterstützt und zu schnelleren, besseren Entscheidungen befähigt. Für den richtigen Umgang mit diesem Werkzeug benötigen sie Schulungen, sonst können sie das Potenzial von GenAI nicht ausschöpfen.

Dass Entscheidungen final von Mitarbeitern getroffen werden, ist auch deshalb wichtig, weil Behörden hohen ethischen Ansprüchen genügen und nachvollziehbare, erklärbare Entscheidungen fällen müssen. Deshalb sollten GenAI-Anwendungen in der öffentlichen Verwaltung nicht als Black Box konzipiert, sondern so gestaltet werden, dass sie Quellen für ihre Antworten anzeigen, sodass Mitarbeiter diese im Zweifelsfall überprüfen können.

Gemeinsame Entwicklung reduziert Risiken

Neben ethischen Anforderungen müssen GenAI-Systeme zudem hohe Anforderungen an Sicherheit und Datenschutz erfüllen, um Missbrauch und Manipulation oder eine Verletzung von Bürgerrechten zu verhindern. Benötigen die Sprachmodelle beispielsweise ein Fine-Tuning mit echten Falldaten, müssen diese zunächst anonymisiert werden. Darüber hinaus helfen Ansätze wie Federated Learning, die Modelle mit Daten aus verschiedenen Behörden zu trainieren, ohne dabei lokale Informationen auszutauschen – lediglich die aktualisierten Modellparameter werden regelmäßig übermittelt.

Federated Learning eignet sich gut für eine gemeinsame Entwicklung von GenAI-Anwendungen über Behörden und Kommunen hinweg, sodass nicht jede Behörde in jeder Kommune das Rad neu erfinden muss. Zumal sich die meisten kommunalen Behörden ohnehin schwertun dürften, die benötigten Data Scientists, Entwickler und sonstigen Experten anzuheuern und eine ausreichend leistungsfähige IT-Infrastruktur für die ressourcenhungrigen Anwendungen zu betreiben.

Besser ist es, die Kräfte zu bündeln sowie mit übergeordneten Stellen auf Landesebene und deren IT-Dienstleistern zusammenzuarbeiten. Die kommunalen Behörden können sich dann auf die Ausarbeitung der Anwendungsfälle und die Aufbereitung ihres internen Wissens konzentrieren, während erfahrene Spezialisten die Entwicklung und das Hosting der GenAI- Anwendungen übernehmen.

Diese Arbeitsteilung reduziert Risiken und verbessert die Erfolgsaussichten von GenAI- Projekten in der öffentlichen Verwaltung. Dieser bietet sich mit GenAI die Chance, dem Fachkräftemangel entgegenzuwirken und effizienter, bürgernäher zu werden – eine Chance, die nicht ungenutzt verstreichen oder durch den Versuch, alles selbst zu machen, gefährdet werden sollte.