Wir müssen dringend etwas gegen die Benachteiligung von Frauen durch Computer-Algorithmen tun“, fordert Nordrhein-Westfalens Gleichstellungsministerin Ina Scharrenbach. Gleichstellung dürfe nicht bei der Google-Suche aufhören. Studien hätten gezeigt, dass Frauen etwa bei der Arbeitsplatzsuche oder der Kreditvergabe durch Auswahlverfahren im Internet oft systematisch benachteiligt würden. Eine Untersuchung ist im Auftrag der Antidiskriminierungsstelle des Bundes in fünfzig Fallbeispielen zu dem Ergebnis gekommen, dass nahezu jedes System, das auf Algorithmen beruht, anfällig sei für Ausgrenzung.
Im Falle der Kreditvergabe müssten Frauen bei gleicher Bonität wie Männer höhere Zinsen zahlen, mehr Sicherheiten bieten oder bekämen gar nicht erst einen Kredit. „Die Systeme sind meist intransparent und funktionieren zum Teil so, dass Punkte nach Geschlecht, Alter oder Wohnort vergeben werden“, erklärt die Ministerin. „In der analogen Welt sind wir uns einig, dass dies gegen Menschenrechte verstößt. Warum sollen wir es dann also in der digitalen Welt akzeptieren?“ Auf Antrag Nordrhein-Westfalens sollen deswegen die Gleichstellungsministerinnen unter anderem beschließen, dass die Bundesregierung, Unternehmen und Behörden verbindliche Verhaltensregeln festlegen, wenn sie Algorithmen etwa bei der Personalauswahl nutzen.