Springe direkt zum: Inhalt

KI in der Verwaltung

Welche Werte braucht eine moderne Verwaltung bei der Nutzung von KI?

Veröffentlicht am 09. Jun 2022

Eine leistungsfähige und zeitgemäße Verwaltung, die gegenüber Bürger*innen effizient Leistungen erbringen kann, ist eine zentrale Voraussetzung für das Vertrauen in unsere Demokratie. In diesem Kontext wird der Einsatz Künstlicher Intelligenz für die Modernisierung der Verwaltung zukünftig eine tragende Rolle spielen. Davon können Bürger*innen und Beschäftigte gleichermaßen profitieren. Die Voraussetzung dafür ist aber, dass die Einführung von KI in der Praxis an zentralen Werten und Prinzipien ausgerichtet ist.

Welche Potenziale KI-Anwendungen für die Verwaltung haben, wird schon bei einem ersten Blick auf die Zahlen der Arbeits- und Sozialverwaltung deutlich: Millionen von Menschen wenden sich jedes Jahr mit ihren Anliegen an die Behörden. Allein bei der Deutschen Rentenversicherung wurden im Jahr 2020 1,7 Millionen Renten-Neuanträge und noch einmal genauso viele Anträge auf Leistungen zur Rehabilitation gestellt. In der Bundesagentur für Arbeit werden täglich etwa 9.600 Anträge auf Arbeitslosengeld und 5.500 Anträge auf Kindergeld bearbeitet. Ein enormer Aufwand, bei dessen Bewältigung KI helfen kann: Bearbeitungszeiten können verkürzt, Beschäftigte unterstützt und Prozesse effizienter werden. Nicht zuletzt auch die Pandemie hat gezeigt, wie wichtig eine moderne, effektive Verwaltung ist. Gleichzeitig hat die Arbeits- und Sozialverwaltungen beim KI-Einsatz eine besondere Verantwortung. Es werden sehr sensible Daten verarbeitet und die Leistungen und Entscheidungen der Sozialversicherungsbehörden haben  direkte Auswirkungen auf die Bürger*innen, oft in besonders herausfordernden Lebenssituationen.

Das Bundesministerium für Arbeit und Soziales ist sich dieser Verantwortung bewusst und hat mit dem Netzwerk „KI in der Arbeits- und Sozialverwaltung“ einen Prozess angestoßen, in dem gemeinsam mit den Mitgliedsbehörden grundlegende Rechte, Werte und Prinzipien für die Einführung und den Einsatz von KI in der behördlichen Praxis erarbeitet. Ergebnis ist eine Wertegrundlage mit zentralen Eckpfeilern, die eine gute Orientierung im Innovationsprozess bieten. 

Menschenzentrierung & Gemeinwohlorientierung

Der Einsatz von KI soll menschenzentriert und gemeinwohlorientiert erfolgen. Hierfür gilt es, alle Akteure und ihre jeweiligen Nutzungsanforderungen, Bedürfnisse und Werte in die Entwicklung und Implementierung einzubeziehen. Mögliche soziale Folgen des KI-Einsatzes und denkbare Auswirkungen auf gesellschaftliche Grundwerte wie Demokratie und Rechtsstaat müssen frühzeitig berücksichtigt und mögliche Risiken im Sinne einer Risikoklassenanalyse bewertet werden. 

Fairness & Nichtdiskriminierung

KI-gestützte Entscheidungen müssen fair und diskriminierungsfrei sein. Bei der Entwicklung von KI-Systemen besteht die Gefahr, dass sie die bestehenden Ungleichgewichte aus dem Analogen reproduzieren und so verstärken. Durch die Auseinandersetzung mit den Daten, die aus der bisherigen Verwaltungspraxis gewonnen wurden, kann der Einführungsprozess von KI zugleich dazu beitragen, bestehende Diskriminierungen aufzudecken und Lösungen dafür zu finden. Diskriminierungsfreiheit von KI-Systemen ist auch deshalb essenziell, weil ihre Ergebnisse typischerweise die Grundlage für eine Vielzahl von behördlichen Entscheidungen bilden. 

Erklärbarkeit & Transparenz

KI-Modelle sollen möglichst transparent sein und so konzipiert werden, dass erklärbar und damit nachvollziehbar ist, wie die von ihnen gemachten Vorschläge zustande kommen. Nur so können andere Werte wie Menschenzentrierung, Fairness oder Nichtdiskriminierung effektiv umgesetzt werden, etwa indem erkennbar wird, ob Datensätze verzerrt sind oder die KI-Anwendung diskriminierende Parameter nutzt. Zugleich sind Transparenz und Erklärbarkeit Grundlage für eine menschliche Kontrolle und Korrektur des KI-Systems. Erklärbarkeit und Transparenz bedeuten auch, dass für die Bürger*innen immer ersichtlich ist, dass sie es mit einem KI-System zu tun haben oder ein KI-System in den Entscheidungsprozess (auch vorbereitend) involviert war. 

Privatsphäre & Persönlichkeitsschutz

Soweit KI-Systeme personenbezogene Daten verarbeiten, besteht ein besonderes Risiko, da hieraus beispielsweise Bewertungen resultieren können, auf denen unter Umständen für die Adressat*innen folgenreiche Entscheidungen basieren. Die Arbeits- und Sozialverwaltungen verarbeiten personenbezogene Daten der Bürger*innen, die oftmals besonders sensibel sind (z. B. Daten zu Kranken-, Ausbildungs- und Erwerbsbiographien; Informationen zur persönlichen, familiären, sozialen und ökonomischen Situation). Die Verwaltung muss deshalb auch beim KI-Einsatz ein besonderes Augenmerk auf den Schutz der Privatsphäre und die informationelle Selbstbestimmung legen sowie die Datenschutzvorschriften einhalten, die diese Rechte gewährleisten.

Sicherheit & Robustheit

Ein KI-System muss sicher und robust sein. Es muss also ein ausreichender Schutz gegen Missbrauch, Angriffe und Sicherheitsverletzungen (z. B. gegen Hacking) bestehen, und es müssen angemessene Notfallpläne für auftretende Sicherheitsrisiken existieren. Außerdem muss die Sicherheit der Menschen sichergestellt sein, die mit dem System interagieren. Die Ergebnisse eines KI-Systems müssen unter allen Umständen korrekt reproduzierbar und zuverlässig sein, und Sachverhalte müssen richtig beurteilt werden. 

Intervenierbarkeit & Verantwortung

KI-Systeme müssen während des Einsatzes anpassbar und abschaltbar sein. Zudem sind Verantwortungsbereiche bei der Planung, Entwicklung und beim Einsatz von KI klar festzuschreiben und zuzuteilen, sodass die verantwortlichen Personen zu jeder Zeit bestimmt und sich ihrer besonderen Rolle bewusst sind. Besonders wichtig – auch mit Blick auf das zentrale Ziel der menschenzentrierten KI – ist, dass die Letztentscheidung immer bei einem Menschen liegt. Intervenierbarkeit aus Sicht der Bürger*innen bedeutet, dass die ihnen zustehenden förmlichen Beschwerdemöglichkeit (Widerspruch und Klage) durch den KI-Einsatz nicht eingeschränkt werden dürfen. Das nötige Wissen ist möglichst breit in den Behörden der Arbeits- und Sozialverwaltung aufzubauen, damit die Beschäftigten informiert mit den KI-Systemen interagieren und auftretende Fehler erkennen und melden können. 

Ökologische Nachhaltigkeit & Ressourcenschonung

Je öfter KI zum Einsatz kommt und je höher der Rechenaufwand einzelner KI-Anwendungen wird, desto wichtiger wird es, auch hier Nachhaltigkeitsaspekte, Ressourcen- und Energieeffizienz mitzudenken. Bei nachhaltiger KI kommt der Verwaltung vor allem bei der Planung, Entwicklung und Beschaffung von KI große Verantwortung zu. Im Rahmen des technisch Möglichen sollte daher auf möglichst nachhaltige KI-Systeme gesetzt werden. So können staatliche Behörden durch ihre Marktmacht bei der Beschaffung die Nachfrage nach nachhaltiger KI erhöhen und so einen aktiven Beitrag zum Klimaschutz leisten. 

Netzwerk KI in der Arbeits- und Sozialverwaltung

Eine Wertegrundlage für den KI-Einsatz in der Arbeits- und Sozialverwaltung

Download als PDF

Weiterführende Informationen