Die Sozialverwaltung, zu welcher auch die Träger der gesetzlichen Arbeitslosen-, Renten- und Unfallversicherung gehören, hat sich zu einem dynamischen Anwendungsfeld von KI entwickelt. Fand man vor einigen Jahren vorrangig Erprobungsversuche und Pilotprojekte, gibt es heute eine Vielzahl von Anwendungen. Systeme auf Basis von Maschinellem Lernen unterstützen bei der Überprüfung von Dokumenten, wie etwa Studienbescheinigungen, die für die Beantragung von Kindergeld notwendig sein können. Im internationalen Kontext wird KI genutzt, um Sozialhilfebetrug vorherzusagen – sowohl durch Unternehmen als durch Bürger*innen. KI-basierte Entscheidungssysteme können aber auch diskriminieren und mit existentiellen Risiken für die Betroffenen einhergehen. Grund dafür ist, dass in die Erkennung von Betrugsfällen Informationen über die Staatsangehörigkeit der Betroffenen miteinfließen. Das zeigte der Einsatz eines KI-Systems in den Niederlanden, wodurch Tausende Bürger*innen insbesondere mit doppelter Staatsbürgerschaft zu Unrecht des Sozialbetrugs bezichtigt wurden.

In der Behörden-internen IT-Infrastruktur wird KI genutzt, um die Überlastung von Serverlandschaften vorherzusagen oder Anomalien in Datenströmen zu erkennen. KI-Systeme durchdringen aber auch zunehmend das Front-Office der Verwaltung, wo Staat und Bürger*innen direkt aufeinandertreffen. Im internationalen Kontext wird KI bereits vereinzelt genutzt, um die Beratung von Arbeitslosen zu verbessern. Dazu berechnen KI-Systeme auf Basis von maschinellem Lernen wie wahrscheinlich es ist, dass eine Person langzeitarbeitslos wird („Profiling“). Auf dieser Basis können Berater*innen Arbeitslose individuell passende Maßnahmen vorschlagen, z.B. berufliche Weiterbildungen.

Dass die Sozialverwaltung algorithmische Systeme zur Entscheidungsunterstützung einsetzt, ist nichts Neues. Im Kontext der Arbeitsvermittlung könnte KI aber die Genauigkeit des Profilings und somit auch die Empfehlungen der Berater*innen verbessern. Grund dafür ist, dass KI-Modelle, die auf maschinellem Lernen basieren, mehr erklärende Variablen einbeziehen können, um Wahrscheinlichkeiten zu treffen. KI-basiertes Profiling bietet auch das Potenzial, die umfangreichen administrativen Datensätze zu nutzen, die den Arbeitsverwaltungen in den meisten Ländern durch die Digitalisierung zunehmend zur Verfügung stehen. Die Verwendung KI-basierter Modelle in der Arbeitsvermittlung wird auch mit dem Potential in Verbindung gebracht, Arbeitslosen maßgeschneiderte Dienstleistungen anzubieten.

Was sind die Gründe für den zunehmenden Einsatz von KI in der Kernverwaltung? Zum einen kann die Angebotsseite durch die Fortschritte in der technischen Entwicklung immer leistungsfähigerer und innovativer Produkte völlig neue Anwendungsbereiche erschließen. Man denke zum Beispiel an die zahlreichen Dokumentationspflichten, die in der Verwaltung zu einem hohen Arbeitsaufkommen bei der Texterstellung führen. Perspektivisch können hier Anwendungen auf Basis generativer KI Abhilfe schaffen. Generative KI-Systeme erstellen auf Basis fortgeschrittener Algorithmen und unter Verwendung großer Datenmengen Texte, Bilder und andere neue Inhalte. Zum anderen passt sich die Nachfrageseite, also die Verwaltung, an den technologischen Wandel an und versucht, die für die digitale Transformation nötigen Ressourcen (Personal, Know-how, technische Infrastruktur etc.) aufzubauen. Dazu zählen auch die zahlreichen behördeninternen und -übergreifenden Expert*innen-Netzwerke, die zum digitalen Wandel beitragen können.

Die Verwaltung arbeitet derzeit daran, ihre technologische Aufnahmefähigkeit zu steigern. Dennoch folgen aus den historisch gewachsenen Verwaltungsstrukturen und Rahmenbedingungen spezifische Herausforderungen, die insbesondere KI-Projekte verzögern oder unmöglich machen können. Das sind zum einen die hohen Datenschutz- und Sicherheitsanforderungen der Verwaltung, die die Komplexität von KI-Projekten erhöhen und die Einführung verlangsamen können. Verwaltungsdaten, insbesondere die besonders schützenswerten Sozialdaten, können für das Training von KI-Modellen nicht einfach an private Firmen weitergegeben werden. Gleichzeitig fehlt verwaltungsintern oftmals das nötige Know-how, um die Entwicklung von KI selbstständig zu stemmen. Auch kann eine Kultur der „Nullfehlertoleranz“ in der Verwaltung Mitarbeiter*innen daran hindern, KI-Projekte ins Leben zu rufen. Bisher mangelt es mancherorts auch an den nötigen Freiräumen, um mit KI in einem sicheren Rahmen experimentieren zu können.

Hat es ein KI-Projekt in den produktiven Betrieb geschafft, muss die neue Anwendung noch von den Verwaltungsmitarbeiter*innen genutzt werden. Doch bereits vor der Entwicklung von KI hat die Einführung von algorithmischen Systeme gezeigt: Richten sich technologische Innovationen nicht nach den Bedürfnissen ihrer Nutzer*innen, werden diese Anwendungen nur selten angenommen und akzeptiert. Die Intention des Technik-Einsatz und ihr tatsächlicher Nutzen können dann weit auseinanderfallen, was insbesondere im Kontext der Sozialverwaltung schwerwiegende Folgen haben kann. Doch was erwarten Verwaltungsmitarbeiter*innen von der Einführung von KI-Systemen? Eine Befragung innerhalb der Arbeitsverwaltung in Deutschland, die Teil des Fellowship-Projekts war, hat gezeigt: Grundsätzlich sind die befragten Verwaltungsmitarbeiter*innen zwar offen, was den Einsatz von KI angeht. Doch haben sie sehr genaue Vorstellungen davon, wie KI-Systeme in ihrem Arbeitsumfeld ausgestaltet sein sollten. Die vergleichsweise hohe Resonanz auf die Befragung kann auch ein Signal dafür sein, die Erfahrungen und Präferenzen von Beschäftigten zukünftig verstärkt in den Entwicklungsprozess von KI-Anwendungen in der Arbeitsverwaltung zu integrieren.

Viel Zeit bleibt für die öffentliche Verwaltung nicht, sich auf die technologischen Wandel durch KI einzustellen. Denn mit generativer KI blicken wir der nächsten Stufe der KI-Entwicklung bereits entgegen. Man könnte erwarten, dass Verwaltungsmitarbeiter*innen durchaus offen gegenüber textgenerierenden KI-Systemen sind, die die lang erwartete Arbeitsentlastung bringen könnten. Doch ob die Effizienzerwartungen eintreffen, hängt auch davon ab, inwiefern Bürger*innen KI in der Verwaltung akzeptieren. Ob generative KI also tatsächlich zu einem „Supercharger“ der Verwaltungsdigitalisierung werden kann, hängt auch von der Akzeptanz der Bürger*innen ab. Über deren Präferenzen in Bezug auf die Ausgestaltung von KI-Systemen in der öffentlichen Verwaltung fehlt es bisher an empirischer Evidenz. Es gilt, diese Lücke zu schließen und perspektivisch auch Klarheit über die rechtlichen Rahmenbedingungen des KI-Einsatzes in der Sozialverwaltung herzustellen