我们的数字身份已经变得与我们的物理身份一样重要，数字身份领域中存在的不平等与人类生活的任何部分一样多。性别歧视体现在女性在全球范围内缺乏与男性相比的身份识别能力，以及由于数据输入不平等而导致的人工智能偏见。女性，特别是有色人种女性，在数字身份革命中被抛在后面，身份验证 (IDV) 技术对女性的错误率远高于男性。这不仅仅是一个技术问题，而是一场影响深远的人权危机。
全球身份差距
想象一下，仅仅因为缺少一张塑料卡或一个数字代码，你就无法开设银行账户、投票或获得医疗保健。对于一个惊人的 每 4 名女性中就有 1 名 在世界各地，这都是现实。她们没有有效的身份证件，这实际上使她们无法被我们认为理所当然的许多系统和服务所识别。没有必要的证件，这些女性面临许多不利因素，包括无法获得医疗保健、教育、就业和法律保护。
每 4 名女性中就有 1 名 全世界 缺乏数字身份证。
“没有身份证，女性往往会陷入贫困和依赖的恶性循环，”世界银行研究员阿米娜·赛义德博士说。“这不仅仅是一张身份证的问题，它关系到自由、机会和尊严。”
但更令人担忧的是：世界银行集团发现，在低收入国家， 44% 女性 没有身份证，而男性只有 28%。这意味着这些国家的女性中将近一半无法充分参与社会和经济活动。
在低收入国家， 44% 女性 没有身份证，而男性的比例为 28%。
在 37 个国家/地区，已婚女性在申请护照时面临的障碍比已婚男性更多。在一些国家/地区，女性还面临额外的法律挑战，限制她们获得数字金融服务。例如，已婚女性可能需要出示结婚证、采用丈夫的姓氏或寻求男性家庭成员的批准才能获得身份证明。
世界银行的《2024 年妇女、商业和法律》报告强调，在 14 个国家，妇女面临限制，无法自由外出。此外，妇女可能会遭遇家庭成员的抵制或缺乏支持，这可能会阻碍她们获得数字身份证明。
当人工智能偏袒一方时：机器的偏见
人们通常认为人工智能是一种均衡器，因为它可以消除决策过程中的人为偏见。然而，现实情况是，输入到人工智能面部识别系统的数据并不平等，导致女性和有色人种的错误率更高。
虽然这些系统对浅肤色男性的错误识别率仅为 0.8%，但对深色皮肤女性的错误识别率却飙升至 34.7%。这不是一个小差距——它非常清楚地反映了全球社会中存在的不平等。
“就像这些系统 设计时带有眼罩”人工智能伦理学家 Joy Buolamwini 博士指出。“他们根本无法准确地‘看到’世界上很大一部分人口。”面部识别偏差证明，即使在西方社会，女性也处于不利地位，在那里，面部生物识别对女性的错误率仍然高于男性。
有色人种女性处于极其不利的地位
对于有色人种女性来说，这些问题造成了一场完美的排斥风暴。她们更有可能缺乏传统身份证件，在与数字身份证平台互动时更有可能被人工智能系统误认。 2019 年测试 美国联邦政府的一项研究表明，该技术对中年白人男性最有效。对于有色人种、女性、儿童和老年人，准确率并不高。
我们看到 21 世纪的技术正在不断进步 20 世纪的偏见。
“我们看到 21 世纪的技术放大了 20 世纪的偏见，”民权律师玛雅·约翰逊警告说。“这纯粹是数字红线。”面部验证技术中出现不平等现象的原因是这些系统在包含更多男性面孔（尤其是白人男性面孔）的数据集上进行训练，从而提高了对这些群体的识别准确率。发生这种情况的原因是许多早期数据集是由以男性为主的研究人员创建的，或来源于多样性有限的数据。因此，女性（尤其是有色人种女性）的代表性不足，导致系统对她们的表现不佳，并导致错误识别或假阴性。
缩小差距：呼吁行动
那么，我们能做什么呢？专家们一致认为，需要采取多管齐下的措施：
- 社会活动：帮助女性获得传统身份证的计划，尤其是在农村和低收入地区。
- 法律改革：挑战使女性更难获得身份证的歧视性法律。
- 人工智能大修：多样化人工智能开发团队和训练数据，以创建更具包容性的系统。
- 问责制：对人工智能系统实施严格的监督和偏见测试。
“这是一个 可解决的问题”， 科技企业家艾莎·卡恩坚持认为，“但这需要承认问题并投入资源来解决它。我们不能让世界上一半的人口在数字时代落后。”
随着我们的未来日益数字化，每个提供面部识别技术的平台都必须尽自己的一份力量来确保使用合乎道德、公正的人工智能。在 ComplyCube，道德人工智能考量一直是我们开发过程的核心。我们实施了内置偏差敏感漂移检测的人工智能/机器学习系统，以确保模型在不同人口群体中保持公平性。我们的独立验证流程可确保所有群体的表现几乎一致，并且我们将继续改进我们的系统以减少偏差并提高准确性。
如需了解有关与专注于道德 AI 的 IDV 合作伙伴合作的更多信息，请联系我们的 合规专家。
