1. Frau Faßbender, der Einsatz von KI wird künftig eine tragende Rolle für die so dringende und wichtige Modernisierung der öffentlichen Verwaltung spielen. Welche Potenziale sehen Sie in der Modernisierung staatlicher Behörden mit KI?

Ich denke, dass KI-Methoden in der Verwaltung da eine erhebliche Entlastung sein können, wo es um relativ eindeutige und risikoarme Ergebnisse geht. Ein Beispiel dafür ist die automatisierte Erkennung von Textdokumenten, wie sie bereits bei der Familienkasse der Bundesagentur für Arbeit angewendet wird. Dort werden mit Hilfe eines KI-Systems Immatrikulationsbescheinigungen geprüft, die mit einem Antrag auf Kindergeld eingereicht werden müssen. Die Zuverlässigkeit eines solchen KI-Systems lässt sich anhand der Ergebnisse sehr genau kontrollieren: Erkennt das System die Immatrikulationsbescheinigung richtig oder nicht? Außerdem unterstützt das KI-System die Bearbeitung des Antrags lediglich. Die Entscheidung wird nach wie vor von den Mitarbeitenden getroffen, was ein vergleichsweise geringes Risiko mit sich bringt. Dieses Beispiel mag vielleicht keine Euphorie auslösen, aber es zeigt, wie KI-Methoden effektiv, mit Mehrwert und vor allen Dingen verantwortungsvoll in der Verwaltung eingesetzt werden können.

Versucht man allerdings Vorhersagen über zukünftige Ereignisse zu treffen, wie beispielsweise, ob eine Person eine Versicherung in Anspruch nehmen wird, steigt das Risiko, dass KI-Systeme – vielleicht unbemerkt – nicht das tun, was mit ihrem Einsatz beabsichtigt ist. Dies kann erhebliche Schäden für Betroffene verursachen. Deshalb ist bei der Nutzung von KI-Systemen in der Verwaltung besondere Vorsicht geboten.

2. Welche Aspekte sind aus Ihrer Sicht zentral, damit diese Potenziale ausgeschöpft werden können und der Einsatz von KI dem öffentlichen Interesse, also den Menschen dient?

Für eine verantwortungsvolle Entscheidung, wann und wie KI-Systeme eingesetzt werden sollten oder nicht, ist vor allem Expertise notwendig. Diese muss sowohl die technische Ebene umfassen, zu der auch die Datenbasis gehört, als auch den Einsatzbereich. Darüber hinaus sollten auch Prozessstandards für einen verantwortungsvollen Einsatz von KI-Systemen kritisch erprobt, etabliert und verbreitet werden.

3. Sie erforschen, wie Design Patterns eingesetzt werden können, um KI-Anwendungen zu verbessern. Was sind Design Patterns und wie können sie die Entwicklung und Einführung von KI-Anwendungen in der Arbeits- und Sozialverwaltung unterstützen?

Design Patterns sind Musterlösungen für wiederkehrend auftretende Probleme. Das Format wurden in den 1970er Jahren entwickelt, um eine menschengerechtere und gemeinschaftliche Stadtplanung zu realisieren. Später wurden Design Patterns in der Softwareentwicklung adaptiert. Ich konzentriere mich insbesondere darauf, Design Patterns für eine kollaborative und gemeinwohlorientiere Data Governance zu entwickeln. Ziel ist es, die darin beschriebenen Lösungen auf andere datengetriebene Projekte übertragbar zu machen. Design Patterns können dann auch auf die Governance von Daten im Verwaltungsbereich angewendet werden.

Weiterführende Informationen zur Nutzung von Design Patterns für KI-Systeme finden sich auch in Impulsvortrag, den Frau Faßbender im Rahmen des 11. KI-Labs unseres Netzwerks KI in der Arbeits- und Sozialverwaltung am 30.09.2022 gehalten hat.