Ist die künstliche Intelligenz eine Frau?

„Programmieren ist Männersache“ – kommt Ihnen diese Ansicht bekannt vor? MALWINA TALIK schreibt über die vielfältigen Auswirkungen, die männliche Dominanz in der KI-Branche haben und darüber, wie Frauen eine lautere Stimme erhalten. 

Bereits im 19. Jahrhundert wird die Welt Zeuge des ersten geschrieben Codes. Was Sie vielleicht nicht wussten: Dieser Code wurde von der Mathematikerin Ada Lovelace erstellt. 1969 wird Grace Hopper, eine Pionierin der Programmierung, die erste Person, die als „Mann des Jahres“ im Programmieren ausgezeichnet wurde. Lange Zeit war Softwareentwicklung reine Frauensache, die nicht viel Ansehen genoss. Hardware war hingegen eine Männerdomäne. In der Nachkriegszeit waren so viele Frauen in der Programmierbranche beschäftigt, dass sogar die Codemenge, die in einer Stunde entwickelt werden konnte, als girlhour bezeichnet wurde. Diese Tendenz war nicht nur in den USA zu beobachten, sondern auch in den Ländern Mitteleuropas wie etwa Polen.  

Heute sieht die Realität ganz anders aus. Unsere Studie “Women in the Digital Space (and AI). Looking into Central Europe. Cases from Austria, Czechia, Poland and Slovakia” bestätigt eine bittere globale Tendenz. Frauen stellen in Mitteleuropa nur zwischen 11% (Tschechien) und 19% (Österreich) aller Mitarbeiter*innen in der IT-Branche dar. Dabei ist unklar, wie viele von ihnen in Bereichen wie Marketing, Projektmanagement oder in Personalabteilungen arbeiten, die keine Programmierkenntnisse erfordern. Hinzu kommt, dass die Gehaltsunterschiede in diesem innovativen Sektor noch gravierender sind als in einigen anderen Branchen. Während der allgemeine Gender-Pay-Gap in der EU 12,7% beträgt, erreicht er in der IT-Branche im Durchschnitt 19%. In Mitteleuropa ist er noch höher und schwankt zwischen 20% (Österreich) und 30% (Tschechien).  

Wenn die KI wie ein Mann tickt 

Im digitalen Raum werden die tief verwurzelten Geschlechterstereotypen und Ungleichheiten der realen Welt wiederholt. Schon ein einfacher Test mit ChatGPT zeigt das. Bei der Übersetzung des im Englischen geschlechtsneutralen Satzes „An AI specialist, a nurse, a teacher, and a doctor went on a trip together“ ins Tschechische, Polnische und Slowakische wird in allen Sprachen nur „nurse“ (= Pfleger*in), und im Polnischen auch „teacher“ (= Lehrer*in)  ins Femininum übersetzt. Weder „doctor“ noch „AI specialist“ werden von ChatGPT in einer dieser Sprachen als weiblich identifiziert, obwohl beispielsweise in Polen fast 60% der Ärzt*innen Frauen sind. Eine Studie des slowakischen Kempelen Instituts für intelligente Technologien ergab zudem, dass Spracherkennungsmodelle in der slowakischen Sprache bei weiblichen Stimmen höhere Fehlerquoten aufweisen und maschinelle Übersetzungswerkzeuge häufig generische maskuline Formen verwenden. 

All das beweist, dass Frauen und Mädchen im Alltag weiterhin übersehen werden. Die künstliche Intelligenz (KI) lernt aus den Daten, mit denen sie gefüttert wird, und diese Daten spiegeln die Vorurteile und die Weltanschauung ihrer oftmals jungen, männlichen Entwickler. Deshalb tendiert KI überproportional oft dazu, wie ein junger weißer Mann zu ticken. Für Frauen, die einer ethnischen Minderheit angehören, sind die Herausforderungen noch größer. Es gibt noch keine ausführlichen Analysen zum Einfluss von KI auf Rom*nja und Sint*izze in Mittel- und Osteuropa. 

KI reproduziert allerdings nicht nur Stereotype, sondern kann Frauen auch im echten Leben schaden. Die in Österreich vom Arbeitsmarktservice verwendete Software wurde heftig kritisiert, da sie unter anderem Frauen mit Kindern diskriminiere. Denn der Algorithmus teilte die Arbeitssuchenden in Bezug auf ihre Chancen auf Einstellung in unterschiedliche Kategorien ein – Mütter wurden dabei ebenso wie Menschen mit Behinderungen tendenziell deutlich niedriger eingestuft. KI wird zudem vermehrt zur Generierung von DeepFakes genutzt –  und diese haben ein eindeutiges Geschlecht. Laut einem Report von Sensity, einem Unternehmen, das sich auf die Beobachtung von DeepFakes spezialisiert, sind zwischen 90 und 95% davon pornografisch, nicht einvernehmlich und stellen Frauen dar. 

Fehlende KI-Expertinnen 

„Aus technologischer Sicht ist das Feld weit offen; die Hindernisse liegen nicht in der Technologie selbst, sondern im umgebenden Umfeld“, sagt Estera Kot, eine KI-Expertin bei Microsoft. Der Grund für fehlende Expertinnen im Bereich der KI ist völlig anders als beispielsweise in den Medien, der Politik oder der Privatwirtschaft, wo viele begabte Frauen gegenüber ihren männlichen Kollegen diskriminiert werden. In der KI fehlt es schlicht an ausreichend Frauen mit den erforderlichen Kompetenzen. Doch auch das ist letztendlich ein Ergebnis von Diskriminierung. 

Schon früh wird Mädchen eingeprägt, dass Informatik nicht für sie geeignet sei. Dieser Irrglaube wird nicht nur durch ihr unmittelbares Umfeld verstärkt, sondern auch durch die Popkultur, in der Hacker*innen und Geeks fast immer männlich dargestellt werden. Dementsprechend streben nur wenige junge Frauen eine Karriere in diesem Bereich an. Unter allen Informatik-Student*innen in den jeweiligen Ländern sind nur 17% Tschechinnen, 15% Polinnen und 12% Slowakinnen. Selbst wenn sie sich schließlich dazu entscheiden, in dem von Männern dominierten Feld zu arbeiten, sind die Arbeitsbedingungen oft herausfordernd, wie unsere Gespräche mit KI-Expert*innen zeigten.  Der Bereich der KI entwickelt sich ständig weiter und erfordert damit ständige Weiterbildung der Beschäftigten. Für viele Frauen ist es schwer, da noch nach der Geburt des ersten Kindes mitzuhalten. Denn wie auch in anderen EU-Ländern ist die Kinderbetreuung in Mitteleuropa weiterhin vor allem Aufgabe der Mütter. In Tschechien und in der Slowakei erhalten laut Eurostat nur zwischen 4,7% und 2,5% der Kleinkinder Fremdbetreuung, was auch am Mangel an Kita- und Kindergartenplätzen liegt. Die Abbruchquote bei Frauen in der IT-Branche ist europaweit dementsprechend deutlich höher als bei Männern. 

Dazu kommen Vorurteile, die Frauen daran hindern, Führungspositionen in Start-ups einzunehmen. Dies wäre insbesondere in frühen Phasen der Produktentwicklung wesentlich, da sie dann eine aktive Rolle bei der Gestaltung des KI-Produkts einnehmen und es gendersensitiver prägen könnten.  Allerdings sind Frauen nur zu 15% unter den Gründer*innen von Start-ups in der EU, und sie erhalten auffallend weniger Finanzierung. In Mitteleuropa erhalten ausschließlich von Männern geführte Start-up-Teams 94% der investierten Kapitalmittel, während Start-ups von Frauen nur knapp 1-2% erhalten. Gleichzeitig generieren von Frauen gegründete Start-ups aber mehr Umsatz pro investiertem Euro und übertreffen Teams, die ausschließlich von Männern geleitet werden, in der Kapitalproduktivität um 96%. 

KI und Frauengesundheit 

Die Ausrichtung der KI auf männlich geprägte Daten hat auch in der Medizinforschung Konsequenzen. Viele für Frauen typische Symptome, die von Ärzt*innen und damit auch der KI oft als „untypisch“ erachtet werden, sowie Krankheiten, die vor allem oder ausschließlich Frauen betreffen, bleiben bis heute nicht gründlich erforscht. Dies kann dazu führen, dass KI-unterstützte Systeme bei Frauen falsche Diagnosen stellen. 

Gerade im Bereich der Medizin kann die KI aber auch Teil der Lösung sein und gerade in Mitteleuropa Hoffnung für die Frauengesundheit bringen. Die Sterberate durch Brustkrebs gehört in Polen und der Slowakei zu den höchsten in der EU, ein Mangel an Ärzt*innen und Kapazitäten ist einer der vielen Gründe dafür. Bisherige Studien zeigen, dass ein*e Radiolog*in mithilfe von KI eine höhere Genauigkeit bei der Krebserkennung aufweist als zwei Radiolog*innen. Viele heimische Start-ups arbeiten gerade an KI-Lösungen, die positive Veränderungen in diesem Bereich bewirken könnten. 

Durch Menstruations- und Schwangerschafts-Apps können Forscher*innen nun beispiellose Mengen an Daten über den weiblichen Körper sammeln und die Wissenslücken schließen. Gleichzeitig besteht das Risiko, dass diese Daten auch für Marketingzwecke verwendet werden. Angesichts des zunehmenden Abbaus reproduktiver Rechte besteht zudem die Gefahr, dass diese Informationen gegen Frauen verwendet werden könnten. Gehackte Daten aus Schwangerschafts- oder Menstruationsapps könnten beispielsweise zeigen, ob eine Frau schwanger ist oder schwanger war und (illegalerweise) abgetrieben hat. Auch wenn das derzeit hypothetische Gefahren sind, genügt es, nach Polen oder in die Slowakei zu schauen.  In Polen wurde unter der PiS-Regierung mit Ausnahme von sehr wenigen Fällen die Abtreibung verboten und die Gesetze bleiben auch nach dem Regierungswechsel streng. In der Slowakei gibt es wiederkehrende Debatten darüber, ob das Abtreibungsgesetz verschärft werden sollte. Viele Frauen sind sich der Konsequenzen der Nutzung vermeintlich kostenloser Apps nicht bewusst. Grundlegende digitale Kompetenzen weisen nur zwischen 41% (Polen) und 61% (Österreich) der digitalen Nutzerinnen vor. 

Zeit, die Spielregeln umzuschreiben 

Die fehlenden KI-Expert*innen sind eine globale Herausforderung. Allein in der EU fehlen etwa 700.000 Fachkräfte. Die IT-Branche muss viel inklusiver und flexibler werden, um bahnbrechend bleiben zu können – und das eröffnet viele Chancen für Frauen. Dieses Zeitfenster wird jedoch nicht ewig dauern, daher ist es wichtig, dass Frauen jetzt einsteigen. Die von Stereotypen geprägte Denkweise muss durch Bildung und öffentliche Kampagnen aufgebrochen werden. Weibliche Vorbilder sollten nicht nur innerhalb von Unternehmen präsentiert, sondern auch in Medien- und Diskussionsforen gezeigt werden. Bereits jetzt gibt es in Mitteleuropa viele energische und von Frauen getriebene Initiativen, wie zum Beispiel Ženský algoritmus (Frauenalgorithmus) oder Aj ty v IT („Auch du in der IT“) in der Slowakei, Czechitas in Tschechien, Let’s Empower Austria in Österreich oder die IT Girls Foundation in Polen. Sie überzeugen, coachen und unterstützen Mädchen und Frauen durch Spiele, Coding-Workshops Beratung und die Vergabe von KI-Preisen für Expertinnen, um sie für die IT zu begeistern. 

Für eine langfristige Zukunft für Frauen in der KI muss die Branche mit unserer Zeit Schritt halten und sich nicht ausschließlich an den Bedürfnissen der männlichen Fachkräfte orientieren. Bis das erreicht ist, ist die künstliche Intelligenz in Mitteleuropa keine Frau. 

 

Malwina Talik ist Wissenschaftliche Mitarbeiterin am IDM sowie freiberufliche Forscherin und Übersetzerin. Davor war sie als Expertin für wissenschaftliche Zusammenarbeit bei der Polnischen Akademie der Wissenschaften / Wien und Referentin für Öffentlichkeitsarbeit bei der Polnischen Botschaft ebenso in Wien tätig.