Unsere digitalen Identitäten sind genauso wichtig geworden wie unsere physischen, und im Bereich der digitalen Identität herrscht ebenso viel Ungleichheit wie in jedem anderen Bereich des menschlichen Lebens. Geschlechtsdiskriminierung zeigt sich in der mangelnden Identifikation, die Frauen im Vergleich zu Männern auf globaler Ebene besitzen, sowie in der KI-Voreingenommenheit aufgrund ungleicher Dateneingabe. Frauen, insbesondere farbige Frauen, werden bei der digitalen Identitätsrevolution zurückgelassen, da Technologien zur Identitätsüberprüfung (IDV) bei Frauen weitaus höhere Fehlerquoten aufweisen als bei Männern. Dies ist nicht nur ein technisches Problem – es ist eine Menschenrechtskrise mit weitreichenden Folgen.
Die globale ID-Lücke
Stellen Sie sich vor, Sie könnten kein Bankkonto eröffnen, nicht wählen oder keine Gesundheitsversorgung in Anspruch nehmen, nur weil Ihnen ein Stück Plastik oder ein digitaler Code fehlt. Für eine erschreckende 1 von 4 Frauen Weltweit ist dies Realität. Sie haben keinen gültigen Ausweis und sind daher für viele Systeme und Dienste, die wir für selbstverständlich halten, praktisch unsichtbar. Ohne die erforderlichen Dokumente sind diese Frauen mit vielen Nachteilen konfrontiert, darunter Probleme beim Zugang zu Gesundheitsversorgung, Bildung, Beschäftigung und Rechtsschutz.
1 von 4 Frauen weltweit fehlt eine digitale ID.
„Ohne Ausweis sind Frauen oft in einem Teufelskreis aus Armut und Abhängigkeit gefangen“, sagt Dr. Amina Sayed, Forscherin bei der Weltbank. „Es geht nicht nur um einen Ausweis – es geht um Freiheit, Chancen und Würde.“
Aber hier wird es noch alarmierender: Die Weltbankgruppe stellte fest, dass in Ländern mit niedrigem Einkommen 44% von Frauen haben keinen Ausweis, verglichen mit 281% der Männer. Das sind fast die Hälfte aller Frauen in diesen Ländern, die von der vollen Teilhabe an der Gesellschaft und der Wirtschaft ausgeschlossen sind.
In Ländern mit niedrigem Einkommen 44% von Frauen haben keinen Ausweis, im Vergleich zu 28% der Männer.
In 37 Ländern haben verheiratete Frauen bei der Beantragung eines Reisepasses mit mehr Hindernissen zu kämpfen als verheiratete Männer. In mehreren Ländern stehen Frauen zudem vor zusätzlichen rechtlichen Herausforderungen, die ihren Zugang zu digitalen Finanzdienstleistungen einschränken. So müssen verheiratete Frauen beispielsweise möglicherweise eine Heiratsurkunde vorlegen, den Namen ihres Mannes annehmen oder die Zustimmung eines männlichen Familienmitglieds einholen, um einen Ausweis zu erhalten.
Der Bericht „Women, Business and the Law“ der Weltbank für 2024 hebt hervor, dass Frauen in 14 Ländern Einschränkungen ausgesetzt sind, die sie daran hindern, sich frei außerhalb des Hauses zu bewegen. Darüber hinaus können Frauen auf Widerstand oder mangelnde Unterstützung von Familienmitgliedern stoßen, was ihren Zugang zur digitalen Identifizierung behindern kann.
Wenn KI Favoriten spielt: Die Voreingenommenheit der Maschine
Künstliche Intelligenz wird oft als Ausgleich betrachtet, da sie menschliche Voreingenommenheit bei Entscheidungsprozessen ausschalten kann. Tatsächlich ist es jedoch so, dass die Dateneingaben in KI-Gesichtserkennungssysteme ungleichmäßig sind, was zu höheren Fehlerquoten bei Frauen und Menschen mit dunkler Hautfarbe führt.
Diese Systeme identifizieren nur hellhäutige Männer falsch 0,8% der Zeit, die Fehlerquote steigt rasant auf 34.7% für Frauen mit dunklerer Haut.
Während diese Systeme Männer mit heller Hautfarbe nur in 0,81 TP6T der Fälle falsch identifizieren, steigt die Fehlerquote bei Frauen mit dunklerer Hautfarbe auf 34,71 TP6T. Das ist keine kleine Lücke – es ist ein sehr klares Spiegelbild der Ungleichheit, die in globalen Gesellschaften herrscht.
„Es ist, als wären diese Systeme mit Scheuklappen entworfen”, bemerkt KI-Ethikerin Dr. Joy Buolamwini. „Sie ‚sehen‘ einen großen Teil der Weltbevölkerung einfach nicht richtig.“ Der Gesichtserkennungsfehler beweist, dass Frauen selbst in westlichen Gesellschaften im Nachteil sind, wo die Gesichtsbiometrie bei Frauen immer noch eine höhere Fehlerquote aufweist als bei Männern.
Frauen mit dunkler Hautfarbe sind stark benachteiligt
Für Frauen mit dunkler Hautfarbe führen diese Probleme zu einem perfekten Sturm der Ausgrenzung. Sie verfügen häufiger nicht über traditionelle Ausweise und werden häufiger von KI-Systemen falsch identifiziert, wenn sie mit digitalen ID-Plattformen interagieren. Test 2019 Die von der US-Regierung durchgeführte Studie kam zu dem Schluss, dass die Technologie bei weißen Männern mittleren Alters am besten funktioniert. Bei farbigen Menschen, Frauen, Kindern und älteren Menschen waren die Genauigkeitsraten nicht beeindruckend.
Wir erleben, wie sich die Technologie des 21. Jahrhunderts verstärkt Vorurteile des 20. Jahrhunderts.
„Wir sehen, wie die Technologie des 21. Jahrhunderts die Vorurteile des 20. Jahrhunderts verstärkt“, warnt die Bürgerrechtsanwältin Maya Johnson. „Das ist schlicht und einfach digitales Redlining.“ Ungleichheit innerhalb der Gesichtserkennungstechnologie entsteht dadurch, dass diese Systeme an Datensätzen mit mehr männlichen Gesichtern, insbesondere weißen männlichen Gesichtern, trainiert werden, was zu einer höheren Genauigkeit für diese Gruppen führt. Dies liegt daran, dass viele frühe Datensätze von überwiegend männlichen Forschern erstellt wurden oder aus Daten mit geringer Vielfalt stammten. Infolgedessen sind Frauen, insbesondere farbige Frauen, unterrepräsentiert, was dazu führt, dass das System für sie schlecht funktioniert und es zu Fehlidentifizierungen oder falsch-negativen Ergebnissen kommt.
Die Lücke schließen: Ein Aufruf zum Handeln
Was kann also getan werden? Experten sind sich einig, dass ein mehrgleisiger Ansatz erforderlich ist:
- Soziale Initiativen: Programme, die Frauen dabei helfen sollen, einen herkömmlichen Ausweis zu erhalten, insbesondere in ländlichen Gebieten und Gebieten mit niedrigem Einkommen.
- Rechtsreform: Gegen diskriminierende Gesetze, die es Frauen erschweren, einen Ausweis zu bekommen.
- KI-Überarbeitung: Diversifizierung von KI-Entwicklungsteams und Trainingsdaten, um integrativere Systeme zu schaffen.
- Rechenschaftspflicht: Implementierung einer strengen Überwachung und Prüfung von KI-Systemen auf Voreingenommenheit.
„Das ist ein lösbares Problem“, betont die Technologieunternehmerin Aisha Kahn. „Aber dazu muss man das Problem anerkennen und Ressourcen bereitstellen, um es zu beheben. Wir können es uns nicht leisten, die Hälfte der Weltbevölkerung im digitalen Zeitalter außen vor zu lassen.“
Da unsere Zukunft zunehmend digital wird, ist es wichtig, dass jede Plattform, die Gesichtserkennungstechnologie anbietet, ihren Teil dazu beiträgt, den Einsatz ethischer, unvoreingenommener KI sicherzustellen. Bei ComplyCube waren ethische KI-Überlegungen ein zentraler Bestandteil unseres Entwicklungsprozesses. Wir haben KI/ML-Systeme mit integrierter voreingenommener Drifterkennung implementiert, um sicherzustellen, dass die Modelle für verschiedene demografische Gruppen fair bleiben. Unsere unabhängigen Validierungsprozesse gewährleisten eine nahezu einheitliche Leistung für alle Gruppen und wir verfeinern unsere Systeme kontinuierlich, um Voreingenommenheit zu reduzieren und die Genauigkeit zu verbessern.
Für weitere Informationen zur Partnerschaft mit einem IDV-Partner mit Fokus auf ethische KI wenden Sie sich bitte an einen unserer Compliance-Experten.
