Fellowship-Programm

Künstliche Intelligenz im öffentlichen Sektor

Welche Auswirkungen hat KI auf das Funktionieren unseres Sozialstaats? Wie sollte der Einsatz von KI in der öffentlichen Verwaltung gestaltet sein? Mit diesen Fragen beschäftigt sich Mareike Winkler, Research-Fellow der Denkfabrik.

Regierungs- und Verwaltungsbehörden setzen sich seit einigen Jahren verstärkt mit den eigenen Anwendungsmöglichkeiten von Künstlicher Intelligenz (KI) auseinander. Durch den Einsatz von KI können Verwaltungsprozesse verbessert werden – für die Bürger*innen, die Wirtschaft und die Verwaltung selbst. Doch mit den Vorteilen gehen auch Risiken einher, zum Beispiel, wenn bestimmte Bevölkerungsgruppen durch KI-Systeme diskriminiert werden. Dies haben internationale Anwendungsfälle der letzten Jahre bereits deutlich gezeigt.

Die öffentliche Verwaltung wird nicht umherkommen, sich mit KI auseinanderzusetzen

Drei zentrale Faktoren machen es notwendig, sich mit der Frage auseinandersetzen, wie die Potentiale von KI für die öffentliche Verwaltung nutzbar gemacht werden können:

  1. Der Fachkräftemangel sorgt bereits heute dafür, dass viele Stellen im öffentlichen Dienst unbesetzt bleiben. Vom Renteneintritt der Babyboomer-Generationen werden die Behörden als Arbeitgeber besonders stark betroffen sein. Laut einer Studie des WifOR-Instituts und PwC (2016) könnte bis 2030 hierzulande jede neunte Stelle bei den Verwaltungsfach- und Bürokräften ¬ einem der Kernbereiche der öffentlichen Verwaltung ¬ fehlen. 
  2. Gleichzeitig steigt die Datenflut im öffentlichen Sektor weiter an. Grund dafür sind neue Dynamiken am Arbeitsmarkt, wie häufigere Jobwechsel, erwerbsfreie Zeiten (z.B. Sabbaticals) und neue Beschäftigungsformen. Veränderungen am Arbeitsmarkt und in den Beschäftigungsverhältnissen erhöhen auch das Arbeitsvolumen der Sozialversicherungsbehörden.
  3. Die Bedürfnisse der Bevölkerung an Verfügbarkeit und Qualität behördlicher Dienstleistungen verändert sich. Vor allem die jüngeren Generationen sind an die Services moderner Unternehmen (z. B. durch den digitalen Zugang zu Informationen, 24h-Services etc.) gewöhnt und übertragen diese Erwartung auch an staatliche Einrichtungen.

KI im Sozialstaat

Die Potentiale von KI für die Verwaltung sind groß und betreffen fast alle Aufgaben des öffentlichen Sektors. Teile der öffentlichen Verwaltung, darunter Sozialversicherungsbehörden, haben die Potentiale von KI erkannt und setzen sie in ausgewählten Aufgabenbereichen bereits heute ein.

Die Behörden der gesetzlichen Sozialversicherung, darunter die Bundesagentur für Arbeit, die Deutsche Rentenversicherung und die Träger der gesetzlichen Unfallversicherung, bringen vordergründig besonders gute Voraussetzungen für den Einsatz von KI mit: Viele Aufgaben in diesem Bereich sind hochstrukturiert, ihre Ausführungsschritte sind meist eindeutig geregelt. Nicht zuletzt verfügen Sozialversicherungsbehörden über eine große Menge an Daten.

Gleichzeitig unterliegt diese Art von Daten einem besonders hohen Schutzstandard. Hinzu kommt, dass in Sozialversicherungsbehörden auch über Anträge auf staatliche Leistungen entschieden wird, die in manchen Fällen direkte Auswirkungen auf die Lebensgrundlage einzelner Personen haben können. Vor diesem Hintergrund ist die KI-basierte Automatisierung von Entscheidungen umstritten, in welchen Ermessens- bzw. Beurteilungsspielräume eine Rolle spielen. Vollautomatisierte Entscheidungen in der öffentlichen Verwaltung sind bereits heute nur unter bestimmten Bedingungen zulässig - und werden in Zukunft voraussichtlich weiteren Regeln unterworfen werden.

Ob die Potentiale von KI künftig ausgeschöpft werden hängt von der Akzeptanz der Mitarbeiter*innen ab

Ob eine KI-Anwendung ihren beabsichtigten Zweck erfüllen kann, hängt nicht allein von der technischen Machbarkeit und rechtlichen Zulässigkeit ab. Wissenschaftliche Studien belegen, dass KI-Systeme nur dann erfolgreich in einer Organisation implementiert sind, wenn die Anwendungen auch auf die Akzeptanz der Mitarbeiter*innen treffen. Das heißt: KI kann nur dann ihr volles Potential entfalten, wenn die betroffenen Verwaltungsangestellten und Beamt*innen mit den neuen Anwendungen umgehen können (Stichwort Kompetenzen) und wollen sowie einen konkreten Nutzen für die Bewältigung ihres Arbeitsalltags in ihnen sehen.

Deshalb spielen bei der Entwicklung, Einführung und ‚Wartung‘ von KI agile Arbeitsweisen und co-kreative Gestaltungsprozesse eine wichtige Rolle. Diese Methoden können dabei helfen, das Fach- und Erfahrungswissen der Anwender*innen einzubinden. Bisher mangelt es jedoch an empirischen Erkenntnisse über die Bedingungen, unter welchen KI in Sozialversicherungsbehörden akzeptiert wird – sowohl von Seiten der Verwaltung als auch der Bürger*innen.

Was ist das Projektziel?

Ziel des Forschungsprojekts ist es, die Bedingungs- und Erfolgsfaktoren von Künstlicher Intelligenz im öffentlichen Sektor darzustellen. Wie muss ein KI-System ausgestaltet sein, damit es den hohen Anforderungen der Mitarbeiter*innen entspricht und von den Bürger*innen akzeptiert wird? Unter welchen Bedingungen können die Potentiale von KI im öffentlichen Sektor ausgeschöpft werden?

Das Forschungsprojekt ergänzt die Arbeit der Denkfabrik Digitale Arbeitsgesellschaft, indem es wissenschaftlich fundierte Erkenntnisse darüber generiert, wie der Einsatz von KI in der Arbeits- und Sozialverwaltung gestaltet werden kann. Auf Basis der Forschungsergebnisse werden politische Entscheidungsempfehlungen für den Einsatz von KI im Sozialstaat formuliert. 

Veröffentlicht am 22. Feb 2022 zum Thema: Fellowship-Programm