11 Szenarien: Gefahren und Potenziale von KI in der Arbeitswelt

Künstliche Intelligenz (KI) erhält zunehmend Einzug in die Arbeitswelt und ist teilweise bereits fester Bestandteil betrieblicher Abläufe. Insbesondere im Personal- und Talentmanagement sowie in der maschinellen Produktion sind algorithmische Entscheidungssysteme (ADM-Systeme) weit verbreitet. Doch wie sollten Verfahren aussehen, die einen beherrschbaren, nachvollziehbaren und fairen Einsatz von Künstlicher Intelligenz ermöglichen? Wie lassen sich diese durchführen und welche institutionellen Anforderungen müssen dafür in Unternehmen beachtet werden?

Diesen Fragen geht das Forschungsprojekt 'KI Testing & Auditing' (ExamAI)   unter der Leitung der Gesellschaft für Informatik   nach und stellt in zwei Publikationen elf Szenarien aus den Bereichen Personal- und Talentmanagement   sowie Mensch-Maschine-Kooperation in der Industrieproduktion   vor. Die Szenarien sollen kritische Abläufe aber auch den Nutzen beim Einsatz von KI veranschaulichen und die Analyse bestehender Probleme, Ungleichbehandlungen, Sicherheitsrisiken und Rechtsverstöße im Bereich KI und Arbeit aus juristischer und Informatiker-Sicht unterstützen.

"In den beiden Publikationen nehmen wir Szenarien unter die Lupe, in denen Mitarbeiterinnen und Mitarbeiter bei ihrer Arbeit in Kontakt mit Künstlicher Intelligenz kommen. Dabei identifizieren wir Schadens- und Diskriminierungspotentiale, die wir im weiteren Projektverlauf genauer untersuchen werden", erklärt Projektleiter Nikolas Becker . KI-Technologien am Arbeitsplatz könnten aber auch eine Reihe positiver Konsequenzen haben - "so kann KI beispielsweise Gefahrensituationen in der Produktion erkennen."

Personal und Talentmanagement

Im Personalbereich gibt es eine Vielzahl von Anwendungsmöglichkeiten von KI. Zum Einsatz kommt etwa eine KI-basierte Software bei der Vorhersage der Jobkündigungsbereitschaft, eine Persönlichkeitsbewertung anhand von Lebensläufen oder der Einsatz eines Chatbots der Personalabteilung. Die Gefahrenpotentiale im Personalkontext sind dabei vielfältig. So kann es etwa zu Diskriminierungen bei der Vergabe von Arbeitsschichten oder zu Benachteiligungen bei internen Fördermaßnahmen kommen.

Ein Beispiel: KI-basierte Background-Checks
Nutzen

• Entlastung und Unterstützung: Durch automatisierte Background-Checks können Ressourcen eingespart werden.
• Effizienz: Schnelle Background-Checks mit hoher Genauigkeit sind wichtig, um qualifizierte Bewerber*innen möglichst schnell einstellen zu können.

Herausforderungen/Risiken

• Entitätserkennungsproblem (falsche Zuordnung): Bei Namensgleichheit besteht die Gefahr einer falschen Zuordnung von Eigenschaften, was zu einer nicht nachvollziehbaren Ablehnung einer Bewerbung führen kann.
• Datenschutz: Inwieweit dürfen Daten, die für private Zwecke (z. B. auf Facebook) veröffentlicht wurden, für Background-Checks herangezogen werden?

Mensch-Maschine-Kooperation in der Industrieproduktion

In der Industrieproduktion besteht unter Umständen auch physisches Gefahrenpotential. Durch einen unkontrollierten und intransparenten Einsatz von KI könnten MitarbeiterInnen durch kollaborative Roboter (Cobots) oder Fahrerlose Transportsysteme (FTS) verletzt werden. Aber auch in vermeintlich harmlosen Betriebsabläufen, wie der Planung von Routen in der Logistik schlummere Diskriminierungspotential.