KI in der Verwaltung
Wie kann Datenschutz bei der Anwendung von KI sichergestellt werden?
Ein Interview zur technischen Perspektive mit Prof. Dr. Federrath, Universität Hamburg
Veröffentlicht am 31. Jul 2023
Prof. Dr. Hannes Federrath leitet seit 2011 die Arbeitsgruppe „Sicherheit in verteilten Systemen (SVS)“ an der Universität Hamburg. Seine Arbeitsgebiete umfassen u. a. Cybersicherheit, Sicherheitsmanagement und Mobile Computing. Im Interview erklärt er, welche neuen Herausforderungen sich in Bezug auf den Umgang mit persönlichen Daten durch den KI-Einsatz in der öffentlichen Verwaltung ergeben und wie ein umfassender Datenschutz sichergestellt werden kann.
Herr Prof. Dr. Federrath, die mit der Nutzung von KI verbundenen Potenziale für die Verwaltung sind enorm. Wo sehen Sie die größten Chancen beim Einsatz dieser Systeme?
KI kann dabei helfen, Routineaufgaben effizienter zu erledigen und somit zu einer Entlastung der Beschäftigten in der Verwaltung beitragen und Verfahren beschleunigen. Sie ist aber – richtig eingesetzt – auch in der Lage, Besonderheiten in Prozessen zu erkennen, die genaueres Hinschauen erfordern. Insbesondere bei der Suche nach Mustern in großen Datenmengen („Gib mir den Vorgang, in dem wir vor einigen Jahren dies und das gemacht haben.“) wird KI die Arbeitsweisen auch in der Verwaltung grundlegend verändern.
Zugleich haben die Arbeits- und Sozialverwaltungen eine ganz besondere Verantwortung, da hier sensible und besonders schützenswerte Daten verarbeitet werden. Welche speziellen Herausforderungen für den Datenschutz ergeben sich aus Ihrer Sicht im Zusammenhang mit der Nutzung von KI in der Verwaltung?
Der KI-Einsatz wird bevorzugt mit Chancen verbunden. Das ist richtig so. Allerdings darf der Einsatz von KI nicht so weit gehen, dass Menschen zum bloßen Objekt einer automatisierten Entscheidung werden. Deshalb hat der europäische Gesetzgeber einer vollständig automatisierten Entscheidungsfindung mit dem Artikel 22 der Datenschutzgrundverordnung enge Grenzen gesetzt. Gerade das Handeln der Sozialverwaltung betrifft häufig Menschen in besonders herausfordernden Lebenssituationen, die von den Entscheidungen erheblich beeinträchtigt werden können. Fehler könnten hier schwerwiegende Folgen haben. Verwaltungshandeln kann deshalb durch KI unterstützt werden, aber ein Mensch muss immer eingreifen können und schließlich entscheiden.
Und selbstverständlich müssen die besonders sensiblen Daten vor unberechtigter Kenntnisnahme, absichtlicher oder versehentlicher Verfälschung und vor Verlust geschützt werden. Es reicht in diesem KI-Anwendungsbereich nicht aus, Daten unkenntlich zu machen, zum Beispiel weil Einzeldaten manchmal von einer KI reproduziert werden können. Deshalb ist die Abschätzung der Risiken, die mit dem Einsatz von KI verbunden sind, durch die Behörde vor Einführung des KI-Systems notwendig.
Und wie können diese Herausforderungen so bewältigt werden, dass der Einsatz von KI in der Verwaltung den Beschäftigten und den Bürger*innen gleichermaßen zugutekommt?
Die positiven, wie auch die negativen Auswirkungen von KI-Verfahren müssen vor deren Einführung eingehend und systematisch geprüft werden. KI kann zum Beispiel zur Überwachung von Beschäftigten und zur Kontrolle der Bürger*innen genutzt werden. Die meisten Menschen werden sowohl in der einen als auch in der anderen Rolle unterwegs sein, und niemand möchte ein Opfer sein. Unterschiedliche Blickwinkel auf den Technikeinsatz können das Risikobewusstsein – ein Schlüssel für den menschengerechten Einsatz von Technik – stärken. Auch die DSGVO bietet mit der Datenschutzfolgenabschätzung in Art. 35 ein geeignetes Instrument für diese Prüfung an.
Damit Bürger*innen und Beschäftigte der Verwaltung gleichermaßen vom Einsatz von KI-Technologien profitieren, können die Behörden außerdem verschiedene Strategien zum technischen Datenschutz nutzen. Diese orientieren sich am Prinzip „Privacy by Design“. Das bedeutet z. B. nur die erforderlichen Daten zu speichern oder Verfahren der Anonymisierung und Pseudonymisierung zu nutzen.