Der zunehmende Einsatz von algorithmischen Entscheidungssystemen (ADM) bringt weitreichende Veränderungen für die Arbeitswelt mit sich. Insbesondere im Personalmanagement werden Entscheidungen zur Personalauswahl und -führung zunehmend durch ADM-Systeme vorbereitet. Auch im direkten Arbeitsumfeld interagieren Arbeitnehmerinnen und Arbeitnehmer zunehmend mit „intelligenten“ Systemen.
Wie können in diesem Rahmen Verfahren aussehen, die einen nachvollziehbaren, beherrschbaren und diskriminierungsfreien Einsatz von „Künstlicher Intelligenz“ (KI) sicherstellen? Wie lassen sich diese durchführen und welche institutionellen Anforderungen müssen dafür beachtet werden?

KI fair und verlässlich einsetzen

Der Klärung dieser Fragen wird sich die Gesellschaft für Informatik e.V. (GI) im Auftrag des KI-Observatoriums des Bundesministeriums für Arbeit und Soziales (BMAS) in einem 20-monatigen Forschungsprojekt gemeinsam mit Fraunhofer IESE, dem Algorithm Accountability Lab an der TU Kaiserslautern, dem Institut für Rechtsinformatik an der Universität des Saarlandes und der Stiftung Neue Verantwortung widmen.
Daniel Krupka, Geschäftsführer der GI: „Mit dem Forschungsvorhaben möchten wir unseren Beitrag zu einem sicheren, verlässlichen, fairen und diskriminierungsfreien Einsatz von KI-Technologie leisten. In unserem interdisziplinär angelegten Projekt werden wir geeignete Verfahren identifizieren, damit algorithmische Entscheidungssysteme künftig transparent und rechtskonform arbeiten. Wir freuen uns daher auf die Zusammenarbeit mit unseren Partnern sowie dem KI-Observatorium des BMAS.“

KI-Entscheidungen sind nicht immer mit Recht vereinbar

Mit der Auslagerung von Entscheidungen an ADM-Systeme ist die Erwartung verbunden, dass diese präziser, objektiver und ökonomisch effizienter getroffen werden. Allerdings lassen sie die Betroffenen über die Verarbeitung ihrer Daten oft im Unklaren und sind möglicherweise mit geltendem Arbeitsrecht unvereinbar. Die 2018 veröffentlichte Studie „Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren“ der Fachgruppe „Rechtsinformatik“ der GI im Auftrag des Sachverständigenrats für Verbraucherfragen (SVRV) kommt daher zu dem Ergebnis, dass es geeigneter Test- und Auditierungsverfahren bedarf, um die nötige Transparenz herzustellen und den Einsatz von KI-Systemen rechtssicher auszugestalten.
Das Forschungsvorhaben „KI Testing & Auditing“ knüpft an diesen Befund an und wird mit einem interdisziplinären Team aus (Sozio-)Informatikerinnen und Informatikern, Software-Ingenieuren sowie Rechts- und Politikwissenschaftlerinnen und -wissenschaftler Handlungsempfehlungen zu Test- und Auditierungsverfahren vorlegen.
Dabei wird neben KI-Systemen im Personalmanagement und Recruiting auch das Feld der Mensch-Maschine Kooperation in der Industrieproduktion in den Fokus genommen.
Weitere Informationen zum Forschungsprojekt „KI Testing & Auditing“.