Gleichstellung: Vom Algorithmus diskriminiert

Ausgabe 04/2023

Künstliche Intelligenz gilt als Schlüsseltechnologie. Doch ihr Einsatz kann Vorurteile verstärken – zum Nachteil von Frauen.

In der Arbeitswelt kommen künstliche Intelligenz (KI) und maschinelles Lernen immer häufiger zum Einsatz. Wie sich das auf die Gleichstellung von Frauen und Männern auswirken kann, haben Tanja Carstensen und Kathrin Ganz von der Universität Hamburg untersucht. Zentrale Fragen in ihrer von der Hans-Böckler-Stiftung geförderten Studie sind: Welche Auswirkungen hat der Einsatz von KI bereits heute? Welche Entwicklungen erwarten Wissenschaft und Öffentlichkeit? Und wie lässt sich die Arbeitswelt der Zukunft gestalten? Die Soziologinnen haben dazu den Forschungsstand, die Berichterstattung in Tages- und Wochenzeitungen und den Diskurs auf politischer Ebene ausgewertet sowie Interviews mit Fachleuten geführt. 

Lange Zeit konzentrierte sich die Forschung auf die Frage, was die neuen Technologien für den Arbeitsmarkt bedeuten. Werden Menschen von Maschinen ersetzt? Und betrifft dies eher typische Männer- oder Frauenberufe? Die Befunde dazu sind ambivalent: Während in einer frauendominierten Branche wie der Pflege weiterhin Menschen gefragt sein dürften, könnten beispielsweise in der Buchhaltung oder der Sachbearbeitung, wo der Frauenanteil ebenfalls hoch ist, eher Arbeitsplätze wegfallen. Manche Forscherinnen und Forscher bezweifeln sogar, dass die neuen Technologien überhaupt zu mehr Arbeitslosigkeit führen – ausgemacht ist das keineswegs. 

Weitere Studien legen nahe, dass sich Anforderungen und Qualifikationen ändern werden: Spezifische Kenntnisse in Statistik und Programmierung werden wichtiger, aber auch Fähigkeiten, die für die Kontextualisierung von Algorithmen und Trainingsdaten erforderlich sind. Trainingsdaten sind ausgewählte Informationen, mit denen eine KI „gefüttert“ wird und aus denen sie lernen soll.

KI lernt Vorurteile

Es gibt Untersuchungen, die darauf hindeuten, dass diese Daten oft einseitig sind, zum Beispiel wenig Informationen über Minderheiten enthalten. So besteht die Gefahr, dass KI Diskriminierung „lernt“ und damit Stereotype und Sexismus in der Arbeitswelt verstärkt. Auch Beschäftigte, die nicht direkt mit KI in Berührung kommen, sind davon betroffen. Schließlich werden algorithmische Entscheidungssysteme auch im Management eingesetzt, zum Beispiel im Personalbereich, bei der Arbeitsplanung und Leistungsbewertung. Auch hier können historisch gewachsene Vorurteile zulasten ohnehin benachteiligter Menschen reproduziert werden. Carstensen und Ganz zitieren eine Studie, die nachweist, dass Frauen schlechter bezahlte Jobs angeboten werden, wenn Unternehmen KI-basierte Software bei der Personalauswahl einsetzen.

Ähnlich wie in der Forschung verlaufen die Debatten in den Medien, allerdings stärker zugespitzt. Im Vordergrund stehen meist die Diskriminierung durch KI sowie die Gefahren der Automatisierung. Aber auch die Möglichkeit, dass Algorithmen für mehr Gerechtigkeit sorgen, wird thematisiert. Darüber hinaus werden punktuell Themen wie weibliche Roboter in Bereichen wie Service, Sexarbeit oder Personalentwicklung aufgegriffen.

Im politischen Diskurs ringen verschiedene Akteurinnen und Akteure um die Deutungsmacht: KI wird als Schlüsseltechnologie bezeichnet, als dynamisch, unaufhaltsam, komplex und kontrovers beschrieben, vor allem aber als Feld, das reguliert werden muss. Gender und Diversity spielen dabei eine kleine, aber entscheidende Rolle. Die Erkenntnis, dass algorithmische Diskriminierung ein Risiko darstellt, wird genutzt, um bekannte geschlechterpolitische Forderungen einzubringen. So finden sich im Dritten Gleichstellungsbericht zahlreiche Vorschläge zur Förderung von Frauen und Mädchen im MINT-Bereich und zur Stärkung soziotechnischer Ansätze im Informatikstudium. 

„In den untersuchten Diskursen werden KI, Arbeit und Gender fortlaufend ausgehandelt. Auffällig ist dabei die breite Thematisierung der geschlechterpolitischen Dimensionen von KI“, schreiben Carstensen und Ganz. Die Debatten seien von der Vorstellung geprägt, dass der Einsatz von KI gestaltbar ist und verhandelt werden muss. Eine zentrale Rolle spiele dabei die betriebliche Mitbestimmung. Betriebsräte bestimmen mit über die Einführung von Technologien, über Datenschutz, Leistungs- und Verhaltenskontrolle, Arbeits- und Gesundheitsschutz, aber auch über Themen wie Aus- und Weiterbildung oder Unternehmenskultur. Sie könnten dafür sorgen, dass KI-Anwendungen vor ihrem Einsatz auf Diskriminierungsfreiheit geprüft werden oder Chancengleichheit als Ziel implementiert wird. Expertinnen und Experten aus den Gewerkschaften können sie dabei unterstützen.