Diskriminierung durch KI (Künstliche Intelligenz) (DiKI)

Passend zum Ideenwettbewerb "Digitalisierung, Mitbestimmung, gute Arbeit" soll sich das Projekt "DiKI - Diskriminiert durch Künstliche Intelligenz" damit beschäftigen, wie die Diskriminierung nach Geschlecht, Alter oder Herkunft durch Künstliche Intelligenz verhindert werden kann. Ergänzend soll betrachtet werden, wie gerade Künstliche Intelligenz durch vorurteilsfreie Vorschläge Diskriminierung reduzieren kann. Dabei ist darauf zu achten, dass nicht eine Form der Diskriminierung, die durch den bereits bestehenden (menschlichen) Auswahlprozess beeinflusst wird, durch eine weitere Art der Diskriminierung ersetzt oder ergänzt wird. Die Diskriminierung durch Daten ist dabei mit deutlich höheren Risiken verbunden, weil sie nicht erwartet wird.
Im Rahmen des Projektes soll analysiert werden, welche typischen Ansätze zur Mustererkennung für Talent Analytics bereits genutzt werden. Unter Talent Analytics verstehen wir die Analyse von personen- und prozessbezogenen Daten mit dem Ziel Beschäftigte auszuwählen, einzuarbeiten, zu bewerten, weiterzuentwickeln bzw. in Teams zusammenzustellen und zu halten. Im Projekt „DiKI“ sollen reale Daten mit typischen Algorithmen analysiert werden, dabei soll untersucht werden inwiefern die Algorithmen anfällig für Diskriminierung sind.

Als Ergebnis soll Best-Practice Handlungswissen erstellt werden, mit welchem Mitarbeiter-VertreterInnen, Personalverantwortliche und/oder, PolitikerInnen die Nutzung von Methoden der Künstlichen Intelligenz im Rahmen von Talent Analytics verstehen, potentielle Diskriminierung erkennen und damit im Idealfall vermeiden können.

Projektlaufzeit

1.11.2017 - 1.12.2019

Projektleitung

Projektmitarbeiter/innen

Mittelgeber

Hans-Böckler-Stiftung

Förderprogramme

Forschungsförderung

Homepage

https://iug.htw-berlin.de/?page_id=92