Quelle: Algorithmwatch.org
Algorithmen, das sind Lösungswege, anhand derer automatisierte Systeme Entscheidungen treffen - z. B. bei der Vergabe eines Kredits, beim Listen von Stellenausschreibungen oder bei der Festlegung von individuellen Preisen im Onlinehandel. Doch auch wenn die Entscheidungen durch Computer als 'neutral(er)' angesehen werden - da sie vermeintlich weniger anfällig sind für Vorurteile -, gibt es seit Langem Hinweise darauf, dass auch automatisierte Systeme nicht unbedingt diskriminierungsfrei handeln und entscheiden. Denn solche Systeme sind letztlich von Menschen programmiert und eingerichtet. So können durch Algorithmen Diskriminierungen fortgeführt oder sogar verstärkt werden.
So zeigte z.B. eine Studie von AlgorithmWatch.org, dass auf Facebook veröffentlichte Stellenausschreibungen basierend auf groben Vorurteilen verschiedenen Zielgruppen angezeigt wurden. Zum Beispiel wurde eine Stellenausschreibung für eine*n Lastwagenfahrer*in 10 Mal häufiger Männern als Frauen angezeigt und eine Stellenausschreibung für eine*n Erzieher*in 20 Mal häufiger Frauen als Männern angezeigt.
Wie kann ich diskriminierende Algorithmen erkennen?
Momentan ist es sehr schwierig, solche Diskriminierung zu erkennen.
Ein Handlungsleitfaden von AlgorithmWatch möchte Multiplikator*innen dabei helfen: https://algorithmwatch.org/de/autocheck/
(c) Bildnachweis: Photo by Shahadat Rahman on Unsplash