KI in der Verwaltung

Auf welche Werte soll sich die Einführung und Nutzung von KI in der Arbeits- und Sozialverwaltung stützen?

Im Netzwerk KI in der Arbeits- und Sozialverwaltung werden in einem Bottom-up-Prozess selbstverpflichtende Leitlinien für die Praxis der Einführung und Nutzung von KI-Anwendungen erarbeitet. Um diese Leitlinien auf ein solides Fundament zu stellen, haben sich die Mitgliedsorganisationen des Netzwerks auf eine gemeinsame Wertegrundlage geeinigt.

Die Potenziale von KI-Anwendungen für die Verwaltung sind enorm. Bearbeitungszeiten können verkürzt, Beschäftigte unterstützt und Prozesse effizienter werden. Nicht zuletzt die Pandemie hat gezeigt, wie wichtig eine moderne, effektive Verwaltung ist. Gleichzeitig hat die Arbeits- und Sozialverwaltungen beim KI-Einsatz eine besondere Verantwortung. Es werden sehr sensible Daten verarbeitet und die Leistungen und Entscheidungen der Sozialversicherungsbehörden haben sehr direkte Auswirkungen auf die Bürger*innen, oft in besonders herausfordernden Lebenssituationen. Um dieser Verantwortung gerecht zu werden, haben sich die Mitglieder des Netzwerks „KI in der Arbeits- und Sozialverwaltung“ gemeinsam auf grundlegende Rechte, Werte und Prinzipien für den Einsatz von KI verständigt und eine entsprechende Wertegrundlage erarbeitet.

Menschenzentrierung & Gemeinwohlorientierung

Der Einsatz von KI soll menschenzentriert und gemeinwohlorientiert erfolgen. Hierfür gilt es, alle Akteure und ihre jeweiligen Nutzungsanforderungen, Bedürfnisse und Werte in die Entwicklung und Implementierung einzubeziehen. Mögliche soziale Folgen des KI-Einsatzes und denkbare Auswirkungen auf gesellschaftliche Grundwerte wie Demokratie und Rechtsstaat müssen frühzeitig berücksichtigt und mögliche Risiken im Sinne einer Risikoklassenanalyse bewertet werden.

Fairness & Nichtdiskriminierung

KI-gestützte Entscheidungen müssen fair und diskriminierungsfrei sein. Bei der Entwicklung von KI-Systemen besteht die Gefahr, dass sie die bestehenden Ungleichgewichte aus dem Analogen reproduzieren und so verstärken. Durch die Auseinandersetzung mit den Daten, die aus der bisherigen Verwaltungspraxis gewonnen wurden, kann der Einführungsprozess von KI zugleich dazu beitragen, bestehende Diskriminierungen aufzudecken und Lösungen dafür zu finden. Diskriminierungsfreiheit von KI-Systemen ist auch deshalb essenziell, weil ihre Ergebnisse typischerweise die Grundlage für eine Vielzahl von behördlichen Entscheidungen bilden.

Erklärbarkeit & Transparenz

KI-Modelle sollen möglichst transparent sein und so konzipiert werden, dass erklärbar und damit nachvollziehbar ist, wie die von ihnen gemachten Vorschläge zustande kommen. Nur so können andere Werte wie Menschenzentrierung, Fairness oder Nichtdiskriminierung effektiv umgesetzt werden, etwa indem erkennbar wird, ob Datensätze verzerrt sind oder die KI-Anwendung diskriminierende Parameter nutzt. Zugleich sind Transparenz und Erklärbarkeit Grundlage für eine menschliche Kontrolle und Korrektur des KI-Systems. Erklärbarkeit und Transparenz bedeuten auch, dass für die Bürger*innen immer ersichtlich ist, dass sie es mit einem KI-System zu tun haben oder ein KI-System in den Entscheidungsprozess (auch vorbereitend) involviert war.

Privatsphäre & Persönlichkeitsschutz

Soweit KI-Systeme personenbezogene Daten verarbeiten, besteht ein besonderes Risiko, da hieraus beispielsweise Bewertungen resultieren können, auf denen unter Umständen für die Adressat*innen folgenreiche Entscheidungen basieren. Die Arbeits- und Sozialverwaltungen verarbeiten personenbezogene Daten der Bürger*innen, die oftmals besonders sensibel sind (z. B. Daten zu Kranken-, Ausbildungs- und Erwerbsbiographien; Informationen zur persönlichen, familiären, sozialen und ökonomischen Situation). Die Verwaltung muss deshalb auch beim KI-Einsatz ein besonderes Augenmerk auf den Schutz der Privatsphäre und die informationelle Selbstbestimmung legen sowie die Datenschutzvorschriften einhalten, die diese Rechte gewährleisten.

Sicherheit & Robustheit

Ein KI-System muss sicher und robust sein. Es muss also ein ausreichender Schutz gegen Missbrauch, Angriffe und Sicherheitsverletzungen (z. B. gegen Hacking) bestehen, und es müssen angemessene Notfallpläne für auftretende Sicherheitsrisiken existieren. Außerdem muss die Sicherheit der Menschen sichergestellt sein, die mit dem System interagieren. Die Ergebnisse eines KI-Systems müssen unter allen Umständen korrekt reproduzierbar und zuverlässig sein, und Sachverhalte müssen richtig beurteilt werden.

Intervenierbarkeit & Verantwortung

KI-Systeme müssen während des Einsatzes anpassbar und abschaltbar sein. Zudem sind Verantwortungsbereiche bei der Planung, Entwicklung und beim Einsatz von KI klar festzuschreiben und zuzuteilen, sodass die verantwortlichen Personen zu jeder Zeit bestimmt und sich ihrer besonderen Rolle bewusst sind. Besonders wichtig – auch mit Blick auf das zentrale Ziel der menschenzentrierten KI – ist, dass die Letztentscheidung immer bei einem Menschen liegt. Intervenierbarkeit aus Sicht der Bürger*innen bedeutet, dass die ihnen zustehenden förmlichen Beschwerdemöglichkeit (Widerspruch und Klage) durch den KI-Einsatz nicht eingeschränkt werden dürfen. Das nötige Wissen ist möglichst breit in den Behörden der Arbeits- und Sozialverwaltung aufzubauen, damit die Beschäftigten informiert mit den KI-Systemen interagieren und auftretende Fehler erkennen und melden können.

Ökologische Nachhaltigkeit & Ressourcenschonung

Je öfter KI zum Einsatz kommt und je höher der Rechenaufwand einzelner KI-Anwendungen wird, desto wichtiger wird es, auch hier Nachhaltigkeitsaspekte, Ressourcen- und Energieeffizienz mitzudenken. Bei nachhaltiger KI kommt der Verwaltung vor allem bei der Planung, Entwicklung und Beschaffung von KI große Verantwortung zu. Im Rahmen des technisch Möglichen sollte daher auf möglichst nachhaltige KI-Systeme gesetzt werden. So können staatliche Behörden durch ihre Marktmacht bei der Beschaffung die Nachfrage nach nachhaltiger KI erhöhen und so einen aktiven Beitrag zum Klimaschutz leisten.

Veröffentlicht am 09. Jun 2022 zum Thema: KI in der Verwaltung