Wie Maschinen diskriminieren. Facial Recognition & die Matrix of Domination.

Machine-Learning-Systeme sind in unserem Alltag schon längst allgegenwärtig. Immer häufiger werden menschliche Entscheidungen an vermeintlich intelligente Maschinen ausgelagert, um Arbeitsprozesse zu vereinfachen und effizienter zu gestalten. Diese Maschinen erkennen nicht nur Gesichter, sie sortieren auch Bewerbungen, beeinflussen Gerichtsprozesse, bestimmen, wer einen Kredit bekommen sollte, entscheiden über Polizeieinsätze und kontrollieren Grenzübergänge. Und immer öfter fällt auf, dass sie dabei rassistische, sexistische oder andere diskriminierende Entscheidungen treffen. Alice und Maxi ergründen in diesem Video, was genau sich hinter diesen algorithmischen Entscheidungssystemen verbirgt, was z.B. Emotionserkennung aus den Gesichtern von Schwarzen Basketballspielern liest, was Facial Recognition mit Haustüren zu tun hat und warum Aussehen Werbeanzeigen beeinflussen kann. Algorithmische Entscheidungssysteme, die über Menschen entscheiden, verstärken häufig soziale Ungerechtigkeit oder schaffen ganz neue Möglichkeiten der Unterdrückung. Dies ist auch deshalb ein Problem, weil sich die Gestalter*innen dieser Systeme oftmals hinter der vermeintlichen Neutralität der Technik verstecken. Was es umso schwieriger macht, sie überhaupt in Frage zu stellen. Es gibt praktisch keine deutschsprachigen Materialien (z.B. für den Schulunterricht), in denen die Auswirkungen von Künstlicher Intelligenz aus einer intersektionalen und feministischen Perspektive beleuchtet werden. Mit diesem Projekt möchten wir vermitteln, wie soziale Ungerechtigkeiten in algorithmischen Entscheidungssystemen reproduziert werden, und wichtige Wissenschaftler*innen vorstellen, die die kritische Betrachtung dieser Systeme vorantreiben.