Nos identités numériques sont devenues aussi cruciales que nos identités physiques, et les inégalités existent dans l’espace de l’identité numérique autant que dans n’importe quel autre domaine de la vie humaine. La discrimination entre les sexes se manifeste dans le manque d’identification des femmes par rapport aux hommes à l’échelle mondiale, ainsi que dans les biais de l’IA dus à une saisie inégale des données. Les femmes, en particulier les femmes de couleur, sont laissées pour compte dans la révolution de l’identité numérique, les technologies de vérification d’identité (IDV) ayant des taux d’erreur bien plus élevés pour les femmes que pour les hommes. Il ne s’agit pas seulement d’un problème technologique : c’est une crise des droits de l’homme aux conséquences profondes.
Le fossé mondial en matière d’identité
Imaginez ne pas pouvoir ouvrir un compte bancaire, voter ou accéder aux soins de santé simplement parce que vous n'avez pas de bout de plastique ou de code numérique. 1 femme sur 4 Partout dans le monde, c’est une réalité. Elles n’ont pas de papiers d’identité valides, ce qui les rend invisibles pour de nombreux systèmes et services que nous tenons pour acquis. Sans les documents nécessaires, ces femmes sont confrontées à de nombreux désavantages, notamment des problèmes d’accès aux soins de santé, à l’éducation, à l’emploi et aux protections juridiques.
1 femme sur 4 mondial ne pas avoir d'identité numérique.
« Sans carte d’identité, les femmes sont souvent prises au piège de la pauvreté et de la dépendance », explique Amina Sayed, chercheuse à la Banque mondiale. « Ce n’est pas seulement une question de carte d’identité, c’est aussi une question de liberté, d’opportunités et de dignité. »
Mais c'est là que cela devient encore plus alarmant : le Groupe de la Banque mondiale a constaté que dans les pays à faible revenu, 44% des femmes 100 d'entre elles n'ont pas de pièce d'identité, contre 281 pour les hommes. Cela représente près de la moitié des femmes de ces pays, exclues de toute participation à la société et à l'économie.
Dans les pays à faible revenu, 44% des femmes n'ont pas de pièce d'identité, contre 28% des hommes.
Dans 37 pays, les femmes mariées rencontrent davantage d’obstacles que les hommes mariés lorsqu’elles demandent un passeport. Dans plusieurs pays, les femmes sont également confrontées à des obstacles juridiques supplémentaires qui limitent leur accès aux services financiers numériques. Par exemple, les femmes mariées peuvent être obligées de présenter un certificat de mariage, d’adopter le nom de leur mari ou de demander l’approbation d’un membre masculin de la famille pour obtenir une pièce d’identité.
Le rapport 2024 de la Banque mondiale sur les femmes, l’entreprise et le droit souligne que dans 14 pays, les femmes sont confrontées à des restrictions qui les empêchent de sortir librement de chez elles. En outre, les femmes peuvent se heurter à une résistance ou à un manque de soutien de la part des membres de leur famille, ce qui peut entraver leur accès à l’identification numérique.
Quand l'IA a des préférences : les préjugés de la machine
L’intelligence artificielle est souvent considérée comme un égalisateur, car elle peut éliminer les biais humains dans les processus de prise de décision. Cependant, les données saisies dans les systèmes de reconnaissance faciale de l’IA sont inégales, ce qui entraîne des taux d’erreur plus élevés pour les femmes et les personnes de couleur.
Ces systèmes identifient à tort uniquement les hommes à peau claire 0,8% du temps, le taux d'erreur monte en flèche 34.7% pour femmes à la peau plus foncée.
Alors que ces systèmes ne se trompent que dans 0,8% de cas sur les hommes à peau claire, le taux d'erreur monte en flèche pour atteindre 34,7% pour les femmes à peau plus foncée. Ce n'est pas un petit écart : c'est un reflet très clair des inégalités présentes au sein des sociétés mondiales.
« C'est comme si ces systèmes étaient conçu avec des œillères« Les femmes ne voient tout simplement pas avec précision une grande partie de la population mondiale », note le Dr Joy Buolamwini, spécialiste de l'éthique de l'intelligence artificielle. « Le biais de reconnaissance faciale prouve que les femmes sont désavantagées, même dans les sociétés occidentales, où la biométrie faciale présente toujours un taux d'erreur plus élevé pour les femmes que pour les hommes.
Les femmes de couleur sont très défavorisées
Pour les femmes de couleur, ces problèmes créent une tempête parfaite d'exclusion. Elles sont plus susceptibles de ne pas avoir de pièces d'identité traditionnelles et d'être mal identifiées par les systèmes d'IA lorsqu'elles interagissent avec des plateformes d'identification numérique. Test 2019 Les résultats d'une étude du gouvernement fédéral américain ont montré que la technologie fonctionne mieux sur les hommes blancs d'âge moyen. Les taux de précision ne sont pas impressionnants pour les personnes de couleur, les femmes, les enfants et les personnes âgées.
Nous voyons la technologie du 21e siècle s'amplifier Les préjugés du XXe siècle.
« Nous voyons la technologie du XXIe siècle amplifier les préjugés du XXe siècle », prévient l’avocate des droits civiques Maya Johnson. « C’est du redlining numérique, purement et simplement. » L’inégalité au sein des technologies de vérification faciale se produit lorsque ces systèmes sont formés sur des ensembles de données contenant davantage de visages masculins, en particulier des visages masculins blancs, ce qui conduit à une meilleure précision pour ces groupes. Cela se produit parce que de nombreux ensembles de données initiaux ont été créés par des chercheurs à prédominance masculine ou provenaient de données présentant une diversité limitée. En conséquence, les femmes, en particulier les femmes de couleur, sont sous-représentées, ce qui fait que le système fonctionne mal pour elles et conduit à des erreurs d’identification ou à des faux négatifs.
Combler le fossé : un appel à l’action
Alors, que peut-on faire ? Les experts s’accordent à dire qu’une approche à plusieurs volets est nécessaire :
- Initiatives sociales:Programmes visant à aider les femmes à obtenir des cartes d’identité traditionnelles, en particulier dans les zones rurales et à faible revenu.
- Réforme juridique:Contester les lois discriminatoires qui rendent plus difficile pour les femmes l’obtention d’une carte d’identité.
- Refonte de l'IA:Diversifier les équipes de développement de l’IA et les données de formation pour créer des systèmes plus inclusifs.
- Responsabilité:Mettre en œuvre une surveillance stricte et tester les systèmes d’IA pour détecter d’éventuels biais.
« C'est un problème soluble, « Mais il faut reconnaître le problème et engager des ressources pour le résoudre. Nous ne pouvons pas nous permettre de laisser la moitié de la population mondiale de côté à l’ère numérique », insiste l’entrepreneuse technologique Aisha Kahn.
Alors que notre avenir devient de plus en plus numérique, il est important que chaque plateforme proposant une technologie de reconnaissance faciale fasse sa part pour garantir l'utilisation d'une IA éthique et impartiale. Chez ComplyCube, les considérations éthiques en matière d'IA ont été au cœur de notre processus de développement. Nous avons mis en œuvre des systèmes d'IA/ML avec détection intégrée des dérives sensibles aux biais pour garantir que les modèles restent équitables entre divers groupes démographiques. Nos processus de validation indépendants garantissent des performances quasi uniformes dans tous les groupes, et nous continuons à affiner nos systèmes pour réduire les biais et améliorer la précision.
Pour plus d'informations sur le partenariat avec un partenaire IDV axé sur l'IA éthique, contactez l'un de nos experts en conformité.
