Rassismus bei Künstlicher Intelligenz
Rassismus bei Künstlicher Intelligenz. (Photo: Laurin Rinder/ shutterstock) Source: Laurin Rinder/ shutterstock

Warum Künstliche Intelligenz rassistisch sein kann

Künstliche Intelligenz kann Rassismus fördern & arme Menschen diskriminieren. Erfahre hier, wie hart es eine Familie oder einen Jobbewerber treffen könnte.

Künstliche Intelligenz (KI) soll unser Leben einfacher machen. Und so wird in Pilotprojekten getestet, wie Roboter in der Pflege helfen können. Auf dem Land kommt KI zum Einsatz, um die Mobilität zu verbessern und im Haushalt nutzen wir die Technik, um unseren Rasen nicht mehr selbst mähen zu müssen. 

Doch bei all den Vorteilen müssen wir uns auch mit den Nachteilen beschäftigen, die mit der Technik einhergehen. Denn erst kürzlich haben Forscher davor gewarnt, dass Rassismus bei der Künstlichen Intelligenz zu einem großen Problem werden könnte.

Rassismus & Künstliche Intelligenz

Ein Forschungsteam von der britischen Uni Cambridge hat sich den Zusammenhang zwischen Rassismus und Künstlicher Intelligenz einmal näher angeschaut. Das Ergebnis: Künstliche Intelligenz wird meistens weiß dargestellt. Das bedeutet, dass Roboter und Androiden kaum eine andere Hautfarbe haben. Und das weder in Filmen, Serien, Grafiken oder anderen Bild-Datenbanken. Selbst die Sprachassistenten drücken sich so aus, dass die Forscher die Sprache eher weißen Menschen aus der Mittelklasse zuordnen würden und nicht schwarzen Menschen.

Doch woran könnte das liegen, dass die Roboter weiß sind und auch wie weiße Menschen sprechen? Die Forscher nennen dafür zwei Gründe. Denn zum einen entstehen Roboter dort, wo die meisten Personen weiß sind und andererseits werden in unserer Gesellschaft Attribute, wie etwa Intelligenz und Macht eher mit weißen Menschen assoziiert. 

Was bedeutet das für Nicht-Weiße?

Na und, könnte man jetzt meinen, dann haben Roboter eben eine weiße Haut und keine schwarze. Doch der Rassismus bei der Künstlichen Intelligenz bezieht sich längst nicht mehr nur auf die Hautfarbe, sondern hat noch viel krassere Auswirkungen.

Rassismus in der Künstlichen Intelligenz
Rassismus in der KI: Roboter sind oftmals weiß(Photo: kool99)

Denn wenn etwa rassistische und kolonialistische Denkweisen in die Algorithmen eingebaut werden, und sich die Künstliche Intelligenz immer weiter in unseren Alltag drängt und uns viele und wichtige Entscheidungen abnimmt, könnte das das Leben von BPOC (Bezeichnung für Black and People of Color) besonders hart treffen.

Angefangen mit den Nachrichten: Echte, menschliche Redakteure bei MSN wurden beispielsweise gegen eine künstliche Intelligenz eingetauscht. Und die erlaubte sich schnell einen großen Patzer: Ein Foto einer nicht-weißen Sängerin wurde einfach mit dem ihrer Kollegin, einer ebenfalls nicht-weißen Sängerin vertauscht. Danach stand der Vorwurf im Raum, dass KI nicht in der Lage dazu ist, nicht-weiße Menschen zu unterscheiden. Der Vorfall war ärgerlich, aber längst noch nicht lebenseinschneidend. Viel dramatischer könnten die Folgen von Rassismus bei der Künstlichen Intelligenz in anderen Bereichen aussehen.

Beispielsweise beim Recruiting von Personal oder der Strafverfolgung. Studien haben bereits gezeigt, dass Menschen mit Migrationshintergrund von Algorithmen diskriminiert werden. Zum Beispiel werden ihnen in den sozialen Medien Stellenausschreibungen für weniger qualifizierte Jobs angezeigt. Oder das Rückfallrisiko von Gefängnisinsassen bewerten die Algorithmen bei schwarzen Menschen höher und auch Polizeicomputer verdächtigen sie häufiger. Hinzukommt, dass die automatische Gesichtserkennung regelmäßig nicht-weiße Gesichter falsch identifiziert.

Aber der Rassismus in der Künstlichen Intelligenz könnte sich auch auf das ganz normale Familienleben auswirken. Sei es, wenn sie kurzzeitig in Geldnot gerät und einen Kredit aufnehmen will. Denn: Heutzutage prüfen Computer und nicht Menschen die Kreditwürdigkeit. 

Das Problem dabei: Die Maschine benutzt nicht nur die Daten des Einzelfalls, also beispielsweise des Vaters. Sondern steckt die Person in eine Art Schublade mit Menschen, die ähnliche Merkmale aufweisen – und leitet daraus die Kreditwürdigkeit ab. Diese Merkmale können zum Beispiel das Geschlecht, der Schulabschluss oder das Wohnviertel sein. Und da Menschen mit Migrationshintergrund oftmals nicht in den Villenvierteln, sondern in den ärmeren Gegenden wohnen, wird ihre Kreditwürdigkeit automatisch herabgestuft.

KI könnte im schlechtesten Fall also dazu führen, dass die Familien höhere Zinsen zahlen muss oder gar keinen Kredit bekommt.

Aber wie lässt sich dieser Missstand beheben?

Da Maschinen mit den Daten arbeiten, die wir erheben und wir Menschen immer wieder Fehler machen, werden auch die Maschinen so lange Fehler machen. Eine zentrale Frage, die sich unsere Gesellschaft also stellen muss, wäre also, in welchen Bereichen die Künstliche Intelligenz Entscheidungen und Vorhersagen machen darf.

Rassismus Künstliche Intelligenz
Betroffene müssen mit an Tech-Projekten arbeiten(Photo: fizkes)

Aber auch eine transparente Kommunikation ist notwendig. Wieso? Das erklärt eine Expertin:

"Systeme künstlicher Intelligenz sind von ihrer Entwicklung bis zu ihrem Einsatz völlig intransparent, viele nennen das die 'Black Box' der KI. So, wie wir als Bürger nicht wissen,  wie sie funktionieren, wissen auch Regierungen oder private Unternehmen oft nicht, welche Faktoren und zugrunde liegenden Ursachen zu bestimmten  Entscheidungen führen. Das macht es viel schwieriger, erstens überhaupt zu erfahren, dass KI bei Entscheidungen, die unser Leben betreffen, beteiligt war und zweitens, diese Entscheidung zu verstehen und  drittens dagegen anzugehen, mit unseren Gesetzen und dem bestehenden Rechtssystem." - Sarah Chander, European Digital Rights

Um gegen die Diskriminierung und den Rassismus bei der Künstlichen Intelligenz etwas zu tun, müssen diskriminierte Personen in Tech-Projekte eingebunden werden und dabei helfen, Vorurteile zu erkennen und abzubauen. Aber sie sollen auch gemeinsam mit der Politik entscheiden, welche Entscheidungen wir Menschen treffen sollten und welche wir niemals einer Maschine überlassen dürfen.

Mehr zum Thema Rassismus und Künstliche Intelligenz gefällig?

Unsere Redakteurin hat sich einmal angeschaut, wie rassistisch die App TikTok ist. Ihr Ergebnis? Ist vernichtend!

Und wie rassistisch ist Deutschland eigentlich? Lies hier den Erfahrungsbericht.


Lifestyle