Längst ist Künstliche Intelligenz (KI) in der Arbeitswelt angekommen. Dort schafft sie viele neue Möglichkeiten, die den Beschäftigten Arbeitsprozesse erleichtern und auch zu mehr Teilhabe und Chancengleichheit führen können. Gleichzeitig werden sich gelernte Prozesse und Arbeitsgebiete durch den Einsatz von KI stark wandeln. Schon heute werden bei der Einführung von KI in der betrieblichen Praxis und in Experimentierräumen konkrete Erfahrungen gesammelt. Es ist wichtig, diese Erfahrungen um wissenschaftliche Analysen zu ergänzen, um eine Basis für gut informierte politische Entscheidungen und die Governance von KI-Technologien zu schaffen. Denn nur durch die richtigen Weichenstellungen können wir erreichen, dass die Arbeitswelt und unsere Gesellschaft fair und sozial bleiben.

Auf der KI-Konferenz des Bundesministeriums für Arbeit und Soziales und der Abteilung Denkfabrik Digitale Arbeitsgesellschaft am 19. und 20. Mai standen diese Themen im Fokus. Dazu waren nationale und internationale Expert*innen aus Forschungsinstituten, Gewerkschaften, KI-anwendungsorientierten Unternehmen, der OECD und der Verwaltung eingeladen worden.

Konferenztag 1: Betriebliche Praxis

„KI ist ein Zukunftsversprechen für ein besseres, ein gesünderes und einfacheres Leben.“

Bundesminister Heil

Hubertus Heil eröffnet mit Chancen und Herausforderungen von KI

„Von allen technischen Neuheiten und Innovationen ist die Künstliche Intelligenz die mit Abstand bedeutendste“, sagte Bundesminister Hubertus Heil zur Eröffnung der Veranstaltung. „Sie ist ein Zukunftsversprechen für ein besseres, ein gesünderes und einfacheres Leben im Alltag und am Arbeitsplatz.“ Als Beispiel nannte er ein vom BMAS gefördertes KI-Projekt, in dem die Arbeitssituation von Berufskraftfahrer*innen untersucht wird. Anstelle eines analogen Fahrtenbuchs sammele die KI nun aussagekräftigere Daten, die Rückschlüsse auf die individuelle Belastungssituation zuließen. So könnten bei Stressreaktionen geeignete Maßnahmen ergriffen werden, und die Gefahr von Unfällen ließe sich reduzieren. Doch gerade an diesem Beispiel werden laut Heil auch Risiken und Herausforderungen deutlich – Stichwort Überwachung. „Wir müssen deswegen ganz neu hinschauen.“ Neue Technologien dürfen nicht dazu führen, dass soziale Errungenschaften und Rechte von Arbeitnehmer*innen ausgehebelt werden. „Technologie ist das, was wir daraus machen. Es geht um eine vorausschauende und verantwortungsbewusste und wirksame Regulierung“, betonte der Minister.

Zukunftszentren unterstützen Unternehmen bei digitalem Wandel

Auf der Konferenz fiel der Startschuss zum Bundesprogramm „Zukunftszentren (KI)“. Damit unterstützt das BMAS ab sofort Unternehmen und Selbstständige dabei, den digitalen Wandel auch im Hinblick auf KI zu gestalten. „Wir möchten mit den Zukunftszentren einen niedrigschwelligen Zugang zum Thema Digitalisierung und KI geben“, sagte Dr. Ina Heine, Vertreterin des Zukunftszentrums Hessen. Wie geht man das Thema an und wer unterstützt?  Dies sind nach den Worten von Prof. Dr. Heike Kraußlach vom Zukunftszentrum Thüringen drängende Fragen, die sich die Unternehmen stellen. Die Zukunftszentren liefern Antworten: Kleine und mittelständische Unternehmen (KMU) erhalten Beratung und Vernetzungsangebote. In den Betrieben werden zudem innovative Konzepte zur Weiterbildung entwickelt und erprobt.

KI verbessert das Training von Rettungskräften

„KI ist ohne Zweifel eine der Zukunftstechnologien, die für unser Land und KMUs wichtig sind.“ Zu dieser Einschätzung gelangt Prof. Dr. Niels Pinkwart vom Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI). In seiner Keynote richtete er den Blick auf „Menschenzentrierte KI in Unternehmen“. Dabei berichtete er unter anderem vom Beispielprojekt „LISA“ (Assistenzroboter in Laboren von Life-Science-Unternehmen) des BMBF: Ziel des Projektes ist die Analyse des individuellen Lernverhaltens. Dazu werden das Lernverhalten und die Vitaldaten von Lernenden durch Sensoren erfasst – etwa über Puls- und Hautwiderstandmesser oder Umgebungssensoren. Auf dieser Grundlage lassen sich Anpassung vornehmen: So konnte etwa Trainingssoftware optimiert und bei der Schulung von Rettungskräften eingesetzt werden. Der technische Fortschritt ermögliche auf diese Weise neue KI-Unterstützungstechniken. „Menschenzentrierte KI wäre nicht menschenzentriert, wenn der Faktor Mensch in der Interaktion mit der KI nicht eine wesentliche Rolle spielen würde“, so Prof. Dr. Pinkwart.

Digitalisierung mit Mut zur Innovation und Expertise im Griff haben

Im Anschluss an seinen Vortrag diskutierte Prof. Dr. Pinkwart mit Expert*innen aus Wirtschaft, Forschung und Gewerkschaft auf dem Panel „KI in Unternehmen und Betrieben“ darüber, wie menschenzentrierte KI-Systeme erfolgreich und partizipativ in KMU implementiert und genutzt werden können. Die Runde war sich einig, dass Mut zur Innovation, aber auch die richtigen Digitalisierungsgrundlagen für den Einsatz von KI in KMU unerlässlich sind. „Digitalisierung sollte man im Griff haben“, so formulierte Prof. Dr. Pinkwart eine Grundvoraussetzung, um die Potenziale der KI heben zu können. Die Unternehmen brauchten die Fähigkeit zur fachlichen Einschätzung und technischen Umsetzung. So böte die KI viele Möglichkeiten, Prozesse zu optimieren und auch zu automatisieren, sagte Dr. Matthias Peissner vom Fraunhofer IAO. „Wichtig ist, dass wir hier nicht nur den Profit der Unternehmen im Auge behalten, sondern auch das Wohl der Beschäftigten und gesellschaftliche Interessen“, ergänzte er. „Die KI wird als eine technische Macht dargestellt, die alles besser kann als der Mensch. Das ist nicht die Realität. KI-Systeme lernen nicht von allein. Sie brauchen den Menschen, um Daten zu bekommen.“

KI in Betrieben: Wie können Transformationsprozesse gelingen?

Wo KI in der betrieblichen Praxis bereits zum Einsatz kommt, ergeben sich wertvolle Erfahrungen. Eine Expert*innenrunde diskutierte rund um das durch die Denkfabrik und das Fraunhofer IAO entwickelte Projekt „KI ULTRA: Unternehmenslabore für Transformation und Change“, wie Transformationsprozesse gelingen können: „Intern Knowhow aufzubauen, passgenau für das Unternehmen oder die Organisation abzuleiten und die Mitarbeiter*innen frühzeitig einzubinden, ist entscheidend“, sagte Doreen Fischer von den fischerwerken, einem weltweit agierenden Spezialisten für Befestigungstechnik, Automobilinterieur und Konstruktionsspielzeug. Und Eberhard Klotz von Festo, einer Unternehmensgruppe mit Schwerpunkt Steuerungs- und Automatisierungstechnik, resümierte: „Insgesamt sind eine De-Mystifizierung von KI und eine sachlichere Diskussion notwendig, damit die Entwicklung vorankommt. Die Anwendung von KI ist nicht insgesamt so neu, wie es manchmal erscheint.“

Der Mensch im Zentrum der Entwicklung von KI

Was macht eine gute KI im Arbeitskontext aus? Wie können KI-Systeme passend für Menschen gestaltet werden? Für einen erfolgreichen Transformationsprozess sei es wichtig, die drei Einflussfaktoren Mensch, Technologie und Organisation im Blick zu behalten, so Prof. Dr. Doris Aschenbrenner von der Aalen University und TU Delft auf dem Panel „KI-Systeme menschenzentriert gestalten“. „Wichtig für mich ist, den Menschen ernst zu nehmen, ihn in den Transformationsprozess aktiv einzubinden und ihn partizipativ mitgestalten zu lassen.“ Sie betonte, dass durchaus viele Menschen die Entwicklungen aktiv mitgestalten wollen, aber eben nicht alle. Deshalb sollten die Prozesse agiler und transparenter gestaltet und Experimentierräume zugelassen werden. Das Innovationssystem so zu gestalten, dass KI-Anwendungen menschenzentriert gestaltet werden – darin sieht Dr. Markus Dicks, Projektleiter des KI-Observatoriums der Denkfabrik, eine zentrale Herausforderung für den zukünftigen Umgang mit KI. Nach seiner Meinung kann Deutschland Vorbild für eine neue Innovationskultur sein: „Wir werden hier aber nur erfolgreich sein, wenn die Menschen der Technologie vertrauen und sie einen persönlichen Nutzen von ihr haben“.

„Wenn immer mehr Entscheidungsprozesse in die KI verlagert werden, müssen wir darauf achten, dass Diskriminierung hier von Anfang an entgegengewirkt wird.“

Björn Böhning

Zum Abschluss des ersten Tages nahmen die Teilnehmer*innen Beispiele von „KI in der Praxis und für die Praxis“ in den Blick – und diskutierten dabei unter anderem die Experimentierräume der Initiative Neue Qualität der Arbeit (INQA) sowie die Möglichkeiten des Einsatzes von KI in der Verwaltung. Staatssekretär Björn Böhning wies auch auf konkrete Herausforderungen in der Praxis hin: „Wenn immer mehr Entscheidungsprozesse in die KI verlagert werden, müssen wir darauf achten, dass Diskriminierung hier von Anfang an entgegengewirkt wird.“

Wie wirken Mensch und Maschine in der Arbeitswelt in Zukunft zusammen? Diese Frage prägte die Gespräche des ersten Tages. Menschliche Bedürfnisse dürfen technologischen Entwicklungen keinesfalls untergeordnet werden – die Technik soll vielmehr dem Menschen nutzen. Auf diesen gemeinsamen Nenner verständigten sich die Teilnehmer*innen der Panels. Und nicht nur sie: Immer wieder wiesen auch die zahlreichen Fragen des interessierten Publikums in genau diese Richtung.

Konferenztag 2: Schwerpunkte Wissen und Governance

KI verstehen: Indikatoren zur Beobachtung von Entwicklungen und Auswirkungen

Wie sichergestellt werden kann, dass KI zur Unterstützung menschlicher Arbeitskraft weiterentwickelt und eingesetzt wird, diskutierten die Expert*innen am zweiten Konferenztag. Dafür ist das Wissen über KI-Entwicklungen entscheidend. Welche Entwicklungen und Trends von KI-Anwendungen lassen sich beobachten? Wie verändert KI das Zusammenleben? Will man Entwicklungen und Auswirkungen von KI verstehen und politische Antworten finden, sind Kennzahlen notwendig. Hier setzt das KI-Observatorium an: Es entwickelt objektive Kennzahlen zur Beobachtung von KI in Arbeit und Gesellschaft.  Judith Peterka, KI-Expertin vom KI-Observatorium, stellte auf dem Panel „Die Beobachtung von KI in Arbeit und Gesellschaft“ die Indikatoren vor, die das KI-Observatorium in diesem Bereich zusammen mit Partnerorganisationen bereits entwickelt hat. Ein Beispiel: Indikatoren können etwa Hinweise darauf geben, inwieweit in der Gesellschaft ein Verlust des Arbeitsplatzes angesichts von KI antizipiert wird: Wie wandelt sich der Arbeitsalltag mit KI und welche Veränderungen vermuten und befürchten Beschäftigte durch ihren Einsatz in der Arbeitswelt? „Die Mehrheit rechnet nicht mit dem Verlust des Arbeitsplatzes, 11% gehen sogar davon aus, dass eher mehr Arbeitsplätze geschaffen werden“, fasste die Expertin eine repräsentative Umfrage zusammen. Seine Indikatoren, die eine Datenbasis schaffen und trotz des Tempos bei den KI-Entwicklungen valide Beobachtungen zulassen sollen, will das Observatorium weiterentwickeln und stetig verbessern.

Auch Kristin Keveloh von LinkedIn diskutierte auf dem Panel mit: Das soziale Netzwerk hat auf Grundlage eigener Daten den Stand der KI-Fähigkeiten und Kompetenzen in der Bevölkerung erhoben. Demnach gibt es eine Konzentration an Kompetenzen, jedoch einen Mangel an Diversität: Weniger als 30 Prozent der KI-Talente weltweit sind Frauen, in Deutschland sogar noch weniger.

KI-Governance: Regeln für Sicherheit und Vertrauen

Neben der Erhebung von Wissen über KI-Entwicklungen war die Governance von KI das zweite zentrale Thema des Tages: Welche Regeln und Strukturen es geben muss, damit KI sicher und vertrauenswürdig ist, diskutierten Teilnehmer*innen des Panels „Auf dem Weg zu einer europäischen KI?“. Den kürzlich vorgestellten Regulierungsvorschlag der Europäischen Kommission zu KI bewertete Staatssekretär Björn Böhning als einen Schritt in die richtige Richtung. Er forderte jedoch mehr Flexibilität, um angemessen auf die unterschiedlichen Systeme und Anwendungen reagieren zu können. Dr. Rasmus Rothe, Merantix AG, plädierte für eine engere Verzahnung der verschiedenen Akteure, und Isabel Rothe, Präsidentin der BAuA, verwies auf die Notwendigkeit wissenschaftlicher Analyse: „Wir brauchen genug begleitende Forschung, die Anwendungen systematisch evaluiert, und einen guten Diskurs sowohl auf nationaler als auch auf europäischer Ebene zwischen den beteiligten Stakeholdern.“ Staatssekretär Björn Böhning schloss mit dem Wunsch, „dass wir uns als Europäerinnen und Europäer selbstbewusst aufstellen.“

Von BMAS und Denkfabrik geförderte Projekte präsentieren Stand der Forschung

Anschließend lieferten Expert*innen an vier „virtuellen Stehtischen“ Einblicke in ihre aktuelle KI-Forschung. Präsentiert wurden vier vom BMAS und der Denkfabrik geförderte Projekte:

Projekt „KI und Wissensarbeit – Implikationen, Möglichkeiten und Risiken“

Dr. Georg von Richthofen vom Humboldt Institut für Internet und Gesellschaft (HIIG) stellte das Projekt „KI und Wissensarbeit – Implikationen, Möglichkeiten und Risiken“ vor.  Das Forschungsteam untersucht, mit welchen Intentionen und Strategien KI-Anwendungen am Arbeitsplatz eingesetzt werden, welche Veränderungen die Beteiligten wahrnehmen und wie Mitarbeitende, Unternehmen und mitbestimmende Akteur*innen darauf reagieren. Das Projekt ist Teil der Fokusgruppe „Künstliche Intelligenz in der Arbeitswelt“ des BMAS.

Projekt „Beschäftigungsrisiken und Arbeitsqualität in der digitalen Transformation“

Dr. Alexandra Fedorets vom Deutschen Institut für Wirtschaftsforschung (DIW) gab Einblicke in das Projekt „Beschäftigungsrisiken und Arbeitsqualität in der digitalen Transformation“.  Hier analysieren die Forschenden unter anderem, wie weit künstliche Intelligenz, Plattformarbeit und digitalisierte Arbeitsplätze bereits in Deutschland verbreitet sind. Die Forschungsergebnisse sollen später Verantwortungsträger*innen als wissenschaftliche Grundlage dienen, um politische Entscheidungen in der Arbeits- und Sozialpolitik treffen zu können. Auf diese Weise lassen sich Transformationskosten minimieren, und möglichst viele Bevölkerungsgruppen profitieren vom technologischen Fortschritt.

Projekt „Rahmenwerk zur Klassifizierung von KI-Systemen“

Passend dazu gaben Mitglieder des OECD-Netzwerks für KI (OECD.AI Network) auf dem folgenden Panel einen Einblick in das Rahmenwerk zur Klassifizierung von KI-Systemen, das die Organisation derzeit entwickelt. Als nutzerfreundliches Werkzeug soll es helfen, KI-Systeme einzuordnen und ihre politischen Auswirkungen zu verstehen. Mit der Vorstellung auf der Konferenz war auch der Start einer öffentlichen Konsultation verbunden: Die Teilnehmer*innen wurden dazu aufgefordert, eigene Impulse in das Rahmenwerk einzubringen. Das Projekt ist Teil des OECD-Forschungsprogrammes zu KI in Arbeit, Innovation, Produktivität und Kompetenzen (AI-WIPS), das maßgeblich vom Bundesministerium für Arbeit und Soziales gefördert wird.

„Es geht um unsere Demokratie, es geht um Werte, es geht um alles.“

Dr. Julia Borggräfe

KI braucht Standards und Normen – und muss getestet werden

Standards und Normen können zu einer innovativen, sicheren und vertrauenswürdigen KI beitragen – wie, das diskutierten die Teilnehmer*innen des Panels „Von der Normung zum Best Practice“. Dr. Julia Borggräfe, Abteilungsleiterin Digitalisierung und Arbeitswelt im BMAS, berichtete von der Arbeit der Normungsroadmap. Diese soll Künstliche Intelligenz so rahmen, dass sie gut und sicher anwendbar ist. Über die Wichtigkeit von Normen und Standards waren sich alle Panelist*innnen einig. „Es geht um unsere Demokratie, es geht um Werte, es geht um alles“, so Dr. Borggräfe.

Doch Normen können nur dort greifen, wo die Leistungen von KI bewertet und kontrolliert werden können. Ob und wie dies im Fall von KI möglich ist, diskutierten die Teilnehmer*innen des Panels „Black-Box KI“. Das in diesem Zusammenhang einschlägige Beispiel ist die Nutzung von KI im Personalwesen: Wie kann man feststellen, ob der Einsatz der entsprechenden Systeme nicht unentdeckt zu Diskriminierung führt? Denn nur, wenn dieses Problem erkannt wird, lässt es sich auch beheben. Daher stellten sich die am Projekt ExamAI beteiligten Wissenschaftler*innen die Frage: Sind Tests und Audits zur Gewährleistung diskriminierungsfreier Entscheidungen eine gesellschaftliche Aufgabe? Prof. Dr. Borges von der Universität des Saarlands betonte, dass es von zentraler Bedeutung sei herauszufinden, wie ein KI-Tool eingesetzt wird. „Ist ein System diskriminierend oder wird es diskriminierend genutzt?“ Um das zu klären sind eine vernünftige Testmetrik und Zugang zu Tests für Mitarbeiter*innen nötig. Dabei sind auch die Unternehmen selbst in die Pflicht zu nehmen – darüber war sich die Runde einig. Aber auch das deutsche Recht hat hier an einigen Stellen noch Nachholbedarf. „Diskriminierung ist leider oft gefühlt illegal, rechtlich nicht.“ sagte Prof. Borges.

Potenziale für Produktivität heben und Mitarbeiter im Blick haben

Zum Abschluss der Konferenz richtete der Talk „Experimente im betrieblichen Kontext“ den Blick noch einmal ganz konkret in die Gegenwart. Dass KI Auswirkungen auf Arbeit und Jobs haben wird, ist absehbar. Schon heute lassen sich aber Veränderungen feststellen. Diese wurden unter anderem in einem sozialpartnerschaftlichen Forschungsprojekt von IBM und ver.di in Experimenten erforscht. Dr. Marie-Christine Fregin, wissenschaftliche Leiterin der Studie und Forschungsleiterin am Research Centre for Education and the Labour Market der Universität Maastricht, betonte, dass wissenschaftliche Durchbrüche und neue Technologien angestrebt werden müssten, die sowohl zu mehr Produktivität führen als auch im Dienst der Mitarbeitenden stehen. Dr. Mark Nitzberg, Leiter des Berkeley Centers for Human-Compatible Artificial Intelligence in Kalifornien betonte: „Wir brauchen Aufklärung, Innovation und Regulierung.“ Deshalb sprach er sich für eine Kombination aus beobachtenden Gremien wie Regulierungsbehörden und Aufklärungsmaßnahmen für Entscheider*innen aus.

Wo KI im Einsatz ist, spielen sich rasante technologische Entwicklungen ab. Und schon heute verfolgen in Deutschland nicht wenige Beschäftigte diese beispiellosen Prozesse aus der ersten Reihe. KI ist in der Arbeitswelt in vielen Bereichen nützlich und hilfreich – ja mehr noch, sie sorgt für Möglichkeiten, die begeistern. Damit ihre Vorteile aber zum Tragen kommen, braucht die Gesellschaft einen klar definierten Rahmen, innerhalb dessen sie das volle Potenzial der KI ausschöpfen kann. Bereiche, die außerhalb davon liegen, gilt es zu schützen. Diesen Rahmen festzulegen, ist demnach Gebot der Stunde.

Zwei Tage „Algorithmen, Automatisierung und Arbeit“: Mit der interdisziplinären Besetzung der Panels lieferten BMAS und Denkfabrik eine Plattform für einen regen Austausch, den Teilnehmer*innen und Publikum gerne nutzten Welche Antworten wir im Hinblick auf eine Zukunft mit KI gemeinsam finden werden – dafür lieferte die Konferenz Impulse.