Eine rassistische KI?

Rassismus ist ein wiederkehrendes Thema in der heutigen Gesellschaft und so ist es nicht verwunderlich, dass auch das Internet nicht verschont bleibt. Mutale Nkonde und ihre Kolleginnen bemerkten dabei, dass besonders Minderheiten mit den wachsenden Möglichkeiten der digitalen Überwachung zu kämpfen haben.

In New York versuchte dabei ein privater Vermieter in seinen Sozialwohnungen die Mieter dazu zu zwingen, ihre Türschlösser durch Gesichtserkennung auszutauschen und somit eine Überwachung zu ermöglichen. Dies alles fand nur in Vierteln statt, in denen arme, schwarze Menschen leben, und nicht in den Wohnungen der reichen und weißen, denn diese bieten die technischen Möglichkeiten nur an, nutzen sie aber selbst nicht.

Das System "Predictive Policing" versucht die Wahrscheinlichkeit von Verbrechen zu berechnen und bietet den Männern und Frauen in Uniform einen Anhaltspunkt für häufigere Patrouillen oder stärkere Überwachung. So kann das Tragen von bestimmten Farben in einigen Vierteln der Stadt New York dazu führen, dass man als Gangmitglied angesehen wird. Ein Problem an dieser Software ist auch, dass "Verdächtige", die einmal aufgenommen wurden (egal ob begründet oder nicht), für immer in dieser Datenbank sind und zudem auch von nichts wissen. Die Lösung für diese Probleme ist laut Nkonde eine "racial literacy", welche drei Grundpfeiler bieten soll:

• Intellektuelles Verständnis, wie Rassismus in Algorithmen, Social Media ... zustande kommt. 
• Eine emotionale Intelligenz, mit welcher kritische Fragen und Angelegenheiten rund um das Thema Rasse beantwortet werden. 
• Eine Verpflichtung, sich gegen die Unterdrückung einzusetzen 

So sollen Firmen nicht nur wegschauen oder sagen, sie behandeln alle gleich, denn diese Ignoranz führt zur Verstärkung der Probleme und nicht zu einer Besserung. Auch muss sich in IT-Abteilungen etwas verändern. So sind laut Nkonde in Googles Machine Learning Team von 893 Angestellten nur zwei farbig. Das volle Interview mit Mutale Nkonde gibt es auf YouTube.