KI-Anwendungen haben für die öffentliche Verwaltung enormes Potenzial. Insbesondere bei Prozessen mit einem großen Routineanteil, etwa dem Bearbeiten von Anträgen, können sie helfen, die Beschäftigten von monotonen Aufgaben zu entlasten, Entscheidungen vorzubereiten und Abläufe zu beschleunigen. Damit wird die Verwaltung effizienter und leistungsfähiger und kann den Interessen und Bedürfnissen der Bürger*innen besser gerecht werden. Renten-, Unfall- und Arbeitslosenversicherung sind für die Ansprüche von Millionen von Menschen zuständig, daher ist es für die Arbeits- und Sozialverwaltungen besonders wichtig, die Potenziale digitaler Technologien auch zu nutzen: So wurden in Deutschland 2021 gut 1,4 Millionen Rentenneuanträge gestellt; die Bundesagentur für Arbeit bearbeitet täglich etwa 9.600 Anträge auf Arbeitslosengeld und 5.500 Anträge auf Kindergeld. Hinzu kamen im letzten Jahr rund 4 Millionen Kurzarbeitergeld-Anträge.

Die Arbeits- und Sozialverwaltungen haben beim KI-Einsatz eine ganz besondere Verantwortung. Hier werden sensible Daten verarbeitet und Entscheidungen getroffen, die direkte Auswirkungen auf Bürger*innen haben, die sich oftmals in herausfordernden Lebenssituationen befinden. Aus diesem Grund hat das Bundesministerium für Arbeit und Soziales das Netzwerk „KI in der Arbeits- und Sozialverwaltung“ ins Leben gerufen. Seit Mai 2021 tauschen sich Vertreter*innen aus rund 20 Behörden in diesem Netzwerk über ihre Erfahrungen bei der Einführung von KI-Anwendungen aus, diskutieren Herausforderungen und Potenziale und entwickeln praxisnahe und anwendungsorientierte Handlungsempfehlungen. Das Ergebnis dieses für die Bundesverwaltung innovativen Dialog- und Arbeitsformats sind selbstverpflichtende Leitlinien für den verantwortungsvollen und menschenzentrierten KI-Einsatz in der behördlichen Praxis. Ziel der Leitlinien ist es, die Einführung von KI-Anwendungen zu beschleunigen, deren Qualität und Sicherheit zu gewährleisten und damit der besonderen Verantwortung der Arbeits- und Sozialverwaltung gerecht zu werden.

Die Leitlinien enthalten einführende Informationen, konkrete Handlungsempfehlungen und praktische Checklisten und sollen so helfen,

• die Einführungsprozesse von KI-Anwendungen in den Behörden menschenzentriert zu gestalten und gemeinsam mit den Stakeholdern Ziele für den KI-Einsatz zu definieren,
• Folgen des geplanten KI-Einsatzes frühzeitig abzuschätzen und mögliche Risiken für unterschiedliche Personengruppen, aber auch die Gesellschaft als Ganzes systematisch zu bewerten und zu minimieren,
• eine gute Datenqualität sicherzustellen und Bias zu vermeiden sowie
• Transparenz über den Einsatz, die Ziele und die Funktionsweisen der KI-Anwendungen zu schaffen und Erklärbarkeit herzustellen.

Einführungsprozesse menschenzentriert gestalten & Ziele definieren

Bei KI-Anwendungen in der Arbeits- und Sozialverwaltung soll der Nutzen für die Menschen, also die Bürger*innen und Mitarbeiter*innen der Verwaltung im Mittelpunkt stehen. Um das zu gewährleisten, werden die unterschiedlichen Stakeholder frühzeitig identifiziert und ihre diversen Perspektiven bereits in der Konzeptionsphase einbezogen. Gemeinsam gilt es, das zu lösende Problem zu identifizieren und die Ziele des KI-Einsatzes zu definieren. Für einen menschenzentrierten Einführungsprozess ist es wichtig, möglichst viele Beteiligungsmöglichkeiten für diejenigen zu schaffen, die das KI-System später nutzen sollen oder von den mit seiner Hilfe erarbeiteten Entscheidungen betroffen sind.

Folgen abschätzen & Risiken bewerten

Gerade beim Einsatz von KI-Anwendungen in der öffentlichen Verwaltung ist es wichtig, unter Berücksichtigung der geltenden gesetzlichen Regelungen zur Anwendung Künstlicher Intelligenz, die zu erwartenden Folgen frühzeitig abzuschätzen und mögliche Risiken zu bewerten. Entscheidend dafür sind die potenziellen Auswirkungen eines KI-Systems auf individueller und gesellschaftlicher Ebene. Wenn ein KI-System zum Beispiel bei der Bearbeitung von Anträgen auf Sozialleistungen unterstützt, kann ein Fehler des Systems schwerwiegende Folgen für die Antragsteller*innen haben. Der Einsatz eines KI-gestützten Informationssystems hingegen ist wahrscheinlich weniger kritisch. In diesem Zusammenhang ist insbesondere auch der Beschäftigtendatenschutz zu berücksichtigen. Grundsätzlich gilt: Je größer das potenzielle Risiko ist, desto höher müssen die Anforderungen an die Qualität und die Kontrolle der Systeme sein. Einen solchen risikobasierten Ansatz verfolgt auch die EU-Kommission mit ihrem Vorschlag für eine KI-Verordnung.

Datenqualität sicherstellen & Bias vermeiden

Eine hohe Datenqualität ist die Voraussetzung für ein gut funktionierendes KI-System. In der Arbeits- und Sozialverwaltung, die in vielen Fällen persönliche Daten verarbeitet, ist deshalb besondere Aufmerksamkeit erforderlich: Schlechte Qualität der Daten kann im schlimmsten Fall zu einem Bias, also einer Verzerrung in den Daten, und in der Folge zu diskriminierenden Ergebnissen führen. Um Bias und damit Diskriminierung zu verhindern, muss die Qualität der Daten sehr genau überprüft werden. Außerdem müssen vor allem auch die Mitarbeiter*innen in den Behörden für mögliche Ursachen von Bias und Diskriminierung sensibilisiert werden. Eine diverse Aufstellung des Entwickler*innen-Teams in Bezug auf Geschlecht, Alter, Herkunft etc. kann dabei helfen, Verzerrungen zu erkennen und zu beheben.

Transparenz schaffen & Erklärbarkeit herstellen

Wie ein KI-System funktioniert und konkrete Ergebnisse produziert, muss für unterschiedliche Zielgruppen – die Mitarbeiter*innen in den Behörden einerseits und die Bürger*innen andererseits – so verständlich und nachvollziehbar sein, dass diese das System richtig anwenden, die Ergebnisse richtig verstehen und weiterverwenden sowie das System hinterfragen und überprüfen können. So sollten Behördenmitarbeitende u. a. in die Lage versetzt werden, Empfehlungen eines KI-Systems als Entscheidungsgrundlage richtig einzuordnen und zu bewerten. Für Bürger*innen hingegen muss klarwerden, wie eine sie betreffende Entscheidung zustande gekommen ist und welche Rolle ein KI-System dabei gespielt hat. Da der Informationsbedarf und der Kenntnisstand unterschiedlicher Zielgruppen jedoch variieren, sind hierfür jeweils adressat*innengerechte Erklärungsverfahren erforderlich.

Die Zusammenarbeit im Netzwerk wird fortgesetzt

Mit der Veröffentlichung der Leitlinien ist die Zusammenarbeit im Netzwerk „KI in der Arbeits- und Sozialverwaltung“ nicht abgeschlossen. Der praxisnahe, behördenübergreifende Austausch wird weitergeführt, damit die beteiligten Behörden auch zukünftig von den Erfahrungen profitieren können, die andere bei der Einführung von KI-Anwendungen gemacht haben.

Sie haben Anmerkungen oder Feedback zu den Leitlinien? Dann schreiben Sie uns gerne eine E-Mail an: ki-in-der-verwaltung[at]bmas.bund.de