Es ist nicht nötig und auch nicht möglich, dass Anwendende KI-gestützte Entscheidungs- oder Vorschlagsysteme (beispielsweise Systeme für Personal- und Schichtplanung, Empfehlungssysteme für Weiterbildungen oder Systeme zur Unterstützung von Einstellungsprozessen) im Detail verstehen, nachvollziehen oder überprüfen können. Diese Systeme verwenden große Datenmengen, die sich kontinuierlich ändern. Die dahinterliegenden Modelle und Algorithmen sind auch für Expert*innen nur mit großem Zeitaufwand nachvollziehbar.

Für viele Anwendungsgebiete ist es jedoch notwendig, die Ausgaben des Systems, das heisst die Einflussfaktoren auf die Systemergebnisse verstehen zu können, um diese zu akzeptieren oder gegebenenfalls auch korrigieren zu können.

Dieses Ziel kann auf der Ebene der Benutzerschnittstelle teilweise erreicht werden:

• durch die Darstellung von Variablen, die das Ergebnis beeinflussen
• durch die graphische Darstellung der Unschärfe von Ergebnissen
• durch die Möglichkeit, Ergebnisse durch Änderung von Variablen zu beeinflussen
• durch die Darstellung von Kennzahlen zur Fairness (37 % der angezeigten Profile sind weiblich)
• durch kontrafaktische Erklärungen (eine Person mit 2 Jahren weniger Berufserfahrung hätte folgende Stelle empfohlen bekommen).

Im Projekt werden Standards für die Benutzerschnittstellen von KI-Systemen beziehungsweise datenbasierten Systemen entwickelt, die es Nutzenden der Systeme erlauben, die Ergebnisse des Systems besser zu verstehen und einzuordnen.

Diese Standards für Transparente KI sollen zum einen kontrafaktische Erklärungen anbieten, eine Benutzerschnittstelle zur adaptiven Anpassung der verwendeten Daten anbieten und diskriminierungsrelevante Variablen visualisieren, bei denen dann entsprechend der betrieblichen Codizes gegebenenfalls verständliche Fairnessmaßen vorgeschlagen werden.

Die Standards für Transparente KI sollen prototypisch an einem Beispielsystem dargestellt und die Wirksamkeit mit Nutzenden getestet werden.

• Prof. Dr. Katharina Simbeck (Projektleitung)

• Dr. Yannick Kalff (Projektmitarbeiter_in)

• Hans-Böckler-Stiftung