Verantwortungsvolle KI

Nachdem wir gesehen haben, wie schädlich KI sein kann, wenn sie unbedacht eingesetzt wird, ist es an der Zeit, sich auf ihren sicheren und ethisch sinnvollen Einsatz zu konzentrieren. Eine solche Künstliche Intelligenz wird als „verantwortungsvolle KI“ bezeichnet. Das Ziel: Wenn KI verantwortungsvoll eingesetzt wird, kann sie Vorurteile abbauen, anstatt sie zu verstärken.

Um dieses Ziel zu erreichen, gibt es zwei zentrale Ansatzpunkte: 

1. Die KI wird so programmiert, dass sowohl die menschliche als auch die maschinelle Voreingenommenheit berücksichtigt wird. 
2. Die Voreingenommenheit der KI wird so weit wie möglich abgeschwächt.

Programmieren von Software unter Berücksichtigung von Benutzer- und KI-Bias

Es gibt zahlreiche Beispiele für den erfolgreichen Einsatz von KI-Algorithmen in einer Vielzahl von Anwendungen, bei denen eine Voreingenommenheit unwahrscheinlich ist. Man denke nur an Spam-Filter, maschinelle Übersetzung, Spracherkennung oder das Scannen von MRT-Bildern auf Anzeichen von Krankheiten. All diese Anwendungen sind nur in geringem Maße anfällig für Voreingenommenheit, da sie in einem Bereich genutzt werden, der ohne die Verwendung von sensiblen Daten auskommt. So ist beispielsweise die Entscheidung, ob eine E-Mail Spam enthält, völlig unabhängig von der ethnischen Zugehörigkeit, dem Geschlecht oder der Religion des Nutzers.

Leider gab es in den letzten Jahren auch zahlreiche Beispiele in den Nachrichten, in denen KI voreingenommene Entscheidungen traf. So gab es z.B. eine Bank, die KI entscheiden ließ, ob jemand einen Kredit erhält oder nicht, oder eine Regierung, die KI analysieren ließ, ob jemand ein Risiko für erschlichene Sozialleistungen darstellt oder nicht. Aber wir haben auch schon einige Beispiele von missglücktem, KI-basierten Job-Matching gesehen. 

Welchen Fehler hatten all diese Systeme gemeinsam? 

Es war die Nachahmung früherer menschlicher Entscheidungen durch KI, und zwar bei Problemen, die sich direkt auf das Leben von Menschen auswirken. Die Entscheidungsfindung bei diesen Beispielen erfordert nämlich neben der Analyse harter Fakten auch gesunden Menschenverstand, Intuition und Empathie. All das kann KI nach dem derzeitigen Stand der Technik (noch) nicht leisten.

Und gerade, weil KI Voreingenommenheit erzeugen oder aufrechterhalten kann, sollten wir uns immer zuerst die Frage stellen, ob Künstliche Intelligenz das geeignete Werkzeug für unsere aktuelle Aufgabe ist. Bei der Lösung von Problemen, bei denen Voreingenommenheit starken Einfluss auf die Problemlösung haben kann, lautet die Antwort meist: NEIN. 

Lassen Sie uns diese Problematik nun auf den HR-Bereich beziehen. Bei Textkernel unterteilen wir das Problem des Abgleichs zwischen Bewerbern und Stellen in zwei verschiedene Schritte: 

1. das Verstehen von Dokumenten 
2. und den Abgleich selbst. 

Wir haben gesehen, dass künstliche Intelligenz die Verzerrungen auf der Basis Ihrer Datensätze erlernen und verstärken kann. Deshalb sollte sie vielleicht nicht für den Algorithmus genutzt werden, der Bewerberdaten abgleicht. Es gibt dafür andere, besser kontrollierbare Algorithmen, die den Abgleich in transparenter und kontrollierbarer Weise durchführen können.

Wenn es jedoch darum geht, Informationen aus einem Lebenslauf oder einer Stellenbeschreibung zu extrahieren, ist das Risiko einer Verzerrung gering, wenn die Datenextraktion mit Hilfe von KI auf verantwortungsvolle Weise geschieht.

Wie lässt sich ein Bias in Künstlicher Intelligenz entschärfen? Die Checkliste

Wann immer KI das richtige Werkzeug für eine Aufgabe ist, ist es wichtig, sie zu kontrollieren und ihren Einsatz genau abzuwägen. Dadurch wird sichergestellt, dass jegliche Voreingenommenheit auf ein Minimum reduziert wird.

In jüngster Zeit haben viele Tech-Giganten wie Google oder IBM Prozesse optimiert, um die Verzerrungen in den Algorithmen für maschinelles Lernen zu verringern. In Anlehnung an diese Unternehmen hat auch Textkernel solche Prozesse in einer Fairness-Checkliste zusammengefasst. 

Indem wir dieser Checkliste folgen, sind wir uns aller potenziellen Verzerrungen bewusst, die durch den Einsatz unserer KI entstehen können. Auf dieser Grundlage können wir entscheiden, ob wir Maßnahmen ergreifen müssen, um Voreingenommenheit abzumildern und dafür sorgen, dass wir sichere Software entwickeln.

Vom “J2EE Full Stack Engineer“ bis zum „Java Ninja“ – Ein Beispiel

Schauen wir uns einige Beispiele für diese Maßnahmen im Zusammenhang mit der Normalisierung von Berufen an. In unserem Beispiel wird bei der „Normalisierung“ eine frei formulierte Berufsbezeichnung einem festen Berufsbild zugeordnet. Es gibt zum Beispiel viele Möglichkeiten, „Java Developer“ zu schreiben, von „J2EE Full Stack Engineer“ bis „Java Ninja“ und alles dazwischen.

Für die KI stellt dies ein Problem mit geringerem Risiko für voreingenommenes Handeln dar, da das Ergebnis der Normalisierung von Berufsbezeichnungen nicht durch die ethnische Zugehörigkeit oder Religion einer Person beeinflusst wird, sondern nur durch die freie Berufsbezeichnung. Allerdings könnte das Geschlecht der Person die Qualität dieses KI-basierten Systems beeinflussen. Dies liegt daran, dass „geschlechtsspezifische“ Berufsbezeichnungen in den KI-Trainingsdaten in einer ihrer Formen häufiger vorkommen könnten (z. B. Schauspieler/Schauspielerin, Kellner/Kellnerin). 

In diesen Fällen könnte der KI-Algorithmus lernen, eine der Formen „besser“ zu normalisieren als die andere. Eine der Maßnahmen, die wir ergreifen können, ist daher, sicherzustellen, dass die Trainingsdaten für den Algorithmus ausgewogen und repräsentativ sind. Das bedeutet, dass sie die Vielfalt der Daten, auf die wir in einer realen Umgebung treffen können, angemessen repräsentieren sollten.

Sobald wir sichergestellt haben, dass die Trainingsdaten fair und ausgewogen sind, besteht eine weitere Maßnahme darin, die Qualität der Normalisierung für beide Geschlechter getrennt zu testen. Die Werte für beide Gruppen sollten im besten Fall nahe beieinander liegen. Auf diese Weise können wir sicherstellen, dass sowohl weibliche als auch männliche Bewerber dieselben Chancen haben, wenn normalisierte Stellenbezeichnungen für Aufgaben wie das Matching von Bewerbern und Stellen verwendet werden.

Mit den richtigen Maßnahmen kann ein Bias bei diesen „risikoarmen“ KI-Aufgaben gut eingedämmt werden. Je komplexer und für den Bewerbungsprozess wichtiger die Aufgabe jedoch wird (wie der Abgleich von Bewerbern und Stellen), desto komplexer und weniger kontrollierbar müssen auch die KI-Algorithmen werden. Der Umgang mit Vorurteilen in solchen Systemen stellt das System vor eine sehr schwere Aufgabe.

Das Problem der Verzerrung durch KI und warum sich eine KI wie entscheidet, wird immer noch erforscht. Es gibt daher immer noch keine Möglichkeit, ein KI-Modell ohne Verzerrungen für komplexe Aufgaben zu nutzen. Alle Unternehmen, die behaupten, dieses Problem bereits gelöst zu haben, erzählen nur einen Teil der Wahrheit.