Newsletter

Verantwortung für Künstliche Intelligenz: Der AI Act auf der Zielgeraden

Liebe*r Abonnent*in,

die EU hat in diesem Monat einen großen Schritt gemacht, um eine Vorreiterrolle bei der menschenzentrierten und innovationsfreundlichen Regulierung von KI einzunehmen. Die Unterhändler des EU-Parlaments und der EU-Staaten konnten am 8. Dezember nach intensiven Trilog-Verhandlungen eine politische Einigung über den AI Act erzielen.

Bisher setzen etwas mehr als zehn Prozent der deutschen Unternehmen KI ein. Rund ein Viertel der Beschäftigten geben an, KI regelmäßig am Arbeitsplatz zu nutzen. Mit dem Einsatz von großen Sprachmodellen wie ChatGPT verbreitet sich die Nutzung von KI-Anwendungen derzeit weiter. Umso wichtiger ist es, zügig eine Regelung für einen innovationsfreundlichen und zugleich verantwortungsvollen Umgang mit Künstlicher Intelligenz in der EU zu entwickeln.

Wir im Bundesministerium für Arbeit und Soziales haben uns in den Verhandlungen aktiv für einen risikobasierten und menschenzentrierten Ansatz eingesetzt. Wir brauchen Rechtssicherheit für Unternehmen und möchten die Grundrechte Beschäftigter schützen. Deshalb begrüßen wir, dass viele am Arbeitsplatz eingesetzte Anwendungen - z. B. für Personalentscheidungen - als „Hochrisiko-Systeme“ besonderen Anforderungen unterliegen. Allerdings wird die KI-Verordnung als sektorübergreifende Regelung nicht alle Besonderheiten des Einsatzes von KI am Arbeitsplatz berücksichtigen können. Deshalb ist es wichtig, dass eine Öffnungsklausel für spezifischere nationale Regelungen im Beschäftigungsbereich Teil des AI Acts ist.

Auch für KI-Modelle, auf denen KI-Systeme wie ChatGPT beruhen, sieht der AI Act Regeln vor. In diesen Fällen sollen Transparenz- und Dokumentationspflichten gelten. Ebenfalls sollen für besonders leistungsstarke Modelle mit „systemischen Risiken“ Pflichten geschaffen werden, Risiken zu evaluieren und zu bewerten. In den nächsten Wochen wird weiter an Details und Formulierungen gearbeitet, damit der Gesetzgebungsprozess zügig abgeschlossen werden kann.

Die Frage nach den wesentlichen Rahmenbedingungen für den menschenzentrierten und verantwortungsvollen Einsatz von KI in der Praxis bestimmte die Diskussionen im Rahmen unseres KI-Forums am 6. Dezember. Dabei kamen in einem interaktiven Beteiligungsformat rund 80 Expert*innen aus Wissenschaft, Wirtschaft, Zivilgesellschaft und Verwaltung zusammen, um sich zu den Potenzialen und Herausforderungen des KI-Einsatzes in Arbeit und Gesellschaft sowie zu möglichen Lösungsansätzen auszutauschen.

Eine neue Studie im von der Denkfabrik geförderten Projekt ai:conomics zeigt: Beschäftigte sind unterschiedlich von KI betroffen. Je nach Beruf, Branche und Qualifikation kann KI bei Routineaufgaben entlasten oder Assistenz für komplexere Entscheidungssituationen sein. Darüber hinaus könnten Frauen weniger häufig negativ betroffen sein aber auch weniger vom Technologieeinsatz profitieren. Denn Berufe mit höherem Frauenanteil weisen geringere Automatisierungspotenziale auf als Berufe mit höherem Männeranteil. Die Studie zeigt zudem, dass komplexe KI und auch einfachere Software-Anwendungen in einigen Berufen mit hohen Fachkräfteengpässen zukünftig eine größere Rolle spielen könnten (bspw. Softwareentwicklung) als in anderen Berufen (bspw. Altenpflege) und damit an bestimmten Stellen Fachkräftemangel mindern kann.

Das Thema Datenzugang hat uns auch in unserem dritten Civic Coding-Schlaglicht beschäftigt, wir haben gemeinsam mit Expertinnen und Experten angeschaut, welche Kapazitäten und Dynamiken durch Open-Source- und Graswurzelbewegungen für die Entstehung Sozialer Innovationen entstehen können.Open Source ist längst keine Nische mehr, sondern bietet enormes Innovationspotenzial, vor allem in Bezug auf digitale Souveränität: „Open Source bietet die Möglichkeit, Produkte zu entwickeln, die nicht nur für die Mehrheit passen, sondern für alle da sind“, so Dr. Henriette Litta, Geschäftsführerin der Open Knowlegde Foundation. Die virtuelle Veranstaltung finden Sie im Communitybereich von Civic Coding. Registrieren Sie sich gern und seien Sie beim nächsten Civic Coding-Schlaglicht im neuen Jahr live dabei!

Und nicht zuletzt beim Digital-Gipfel der Bundesregierung war der verantwortungsvolle Umgang mit KI in der betrieblichen Praxis eines der zentralen Themen. Bundesarbeitsminister Hubertus Heil hob in unserer Session mit Expert*innen aus Wirtschaft, Wissenschaft und Gewerkschaften die Potenziale von KI für die Wettbewerbsfähigkeit des Industriestandorts Deutschland sowie verbesserte Arbeitsbedingungen hervor: „Wenn es z. B. darum geht, Pflegekräfte von Bürokratie mit Hilfe von Spracherkennungsprogrammen zu entlasten oder Arbeit sicherer zu machen und Arbeitsunfälle zu vermeiden, bietet KI viele Chancen.“ Dabei müssten die Rechte von Mitarbeitenden stets im Mittelpunkt stehen, eine ausgewogene, technologieoffene Regulierung sei unerlässlich: „Trust is a must“, so Hubertus Heil. Nur wenn Mitarbeitende KI als Verbündete sehen, könne sie ihr volles Potenzial entfalten.

Wir wünschen eine informative Lektüre, einen entspannten Jahresabschluss und fröhliche Festtage!

Ihr Team der Denkfabrik