لقد أصبحت هويتنا الرقمية بالغة الأهمية مثل هويتنا الجسدية، وتوجد عدم المساواة في مجال الهوية الرقمية بقدر ما توجد في أي جزء من الحياة البشرية. ويمكن رؤية التمييز بين الجنسين في الافتقار إلى الهوية التي تمتلكها النساء مقارنة بالرجال على نطاق عالمي، وكذلك في تحيزات الذكاء الاصطناعي بسبب عدم المساواة في إدخال البيانات. تتخلف النساء، وخاصة النساء ذوات البشرة الملونة، عن الركب في ثورة الهوية الرقمية، حيث تتمتع تقنيات التحقق من الهوية بمعدلات خطأ أعلى بكثير بالنسبة للنساء مقارنة بالرجال. هذه ليست مجرد قضية تقنية - إنها أزمة حقوق إنسان ذات عواقب بعيدة المدى.
فجوة الهوية العالمية
تخيل أنك غير قادر على فتح حساب مصرفي، أو التصويت، أو الحصول على الرعاية الصحية لمجرد أنك تفتقر إلى قطعة بلاستيكية أو رمز رقمي. 1 من كل 4 نساء في جميع أنحاء العالم، هذا هو الواقع. إنهم يفتقرون إلى بطاقة هوية صالحة، مما يجعلهم غير مرئيين للعديد من الأنظمة والخدمات التي نعتبرها أمرًا مفروغًا منه. وبدون الوثائق اللازمة، تواجه هؤلاء النساء العديد من العيوب، بما في ذلك مشاكل الوصول إلى الرعاية الصحية والتعليم والتوظيف والحماية القانونية.
1 من كل 4 نساء في جميع أنحاء العالم يفتقر إلى معرف رقمي.
وتقول الدكتورة أمينة سيد، الباحثة في البنك الدولي: "بدون بطاقة هوية، غالبًا ما تقع النساء في فخ الفقر والاعتماد على الآخرين. الأمر لا يتعلق فقط بالبطاقة، بل يتعلق بالحرية والفرصة والكرامة".
ولكن هنا يصبح الأمر أكثر إثارة للقلق: فقد وجدت مجموعة البنك الدولي أنه في البلدان ذات الدخل المنخفض، 44% من النساء لا تمتلك النساء في هذه الدول بطاقات هوية، مقارنة بـ 28% من الرجال. وهذا يمثل ما يقرب من نصف النساء في هذه الدول، معزولات عن المشاركة الكاملة في المجتمع والاقتصاد.
وفي البلدان ذات الدخل المنخفض، 44% من النساء لا يوجد لديهم بطاقة هوية، مقارنة بـ 28% من الرجال.
في 37 دولة، تواجه النساء المتزوجات عقبات أكثر من الرجال المتزوجين عند التقدم بطلب الحصول على جوازات السفر. وفي العديد من الدول، تواجه النساء أيضًا تحديات قانونية إضافية تحد من قدرتهن على الوصول إلى الخدمات المالية الرقمية. على سبيل المثال، قد يُطلب من النساء المتزوجات تقديم شهادة زواج، أو تبني اسم الزوج، أو طلب موافقة أحد أفراد الأسرة الذكور للحصول على بطاقة هوية.
ويسلط تقرير البنك الدولي لعام 2024 "المرأة والأعمال والقانون" الضوء على أن النساء في 14 دولة يواجهن قيودًا تمنعهن من السفر خارج المنزل بحرية. بالإضافة إلى ذلك، قد تواجه النساء مقاومة أو نقصًا في الدعم من أفراد الأسرة، مما قد يعيق وصولهن إلى الهوية الرقمية.
عندما تلعب الذكاء الاصطناعي دور المفضل: التحيز في الآلة
غالبًا ما يُنظر إلى الذكاء الاصطناعي على أنه مُعادل، لأنه يمكنه القضاء على التحيزات البشرية في عمليات صنع القرار. ومع ذلك، فإن ما يحدث هو أن البيانات المدخلة في أنظمة التعرف على الوجه التي تعمل بالذكاء الاصطناعي غير متساوية، مما يؤدي إلى ارتفاع معدلات الخطأ لدى النساء والأشخاص ذوي البشرة الملونة.
هذه الأنظمة تحدد الرجال ذوي البشرة الفاتحة فقط بشكل خاطئ 0.8% من الوقت، معدل الخطأ يرتفع إلى 34.7% ل النساء ذوات البشرة الداكنة.
في حين أن هذه الأنظمة لا تخطئ في تحديد هوية الرجال ذوي البشرة الفاتحة إلا بنسبة 0.8% من المرات، فإن معدل الخطأ يرتفع إلى 34.7% بالنسبة للنساء ذوات البشرة الداكنة. وهذه ليست فجوة صغيرة - بل إنها انعكاس واضح للغاية لعدم المساواة الموجودة داخل المجتمعات العالمية.
"يبدو الأمر وكأن هذه الأنظمة كانت تم تصميمه مع وضع الغمامة على العين"وتلاحظ الدكتورة جوي بولامويني، المتخصصة في أخلاقيات الذكاء الاصطناعي، أن "الذكاء الاصطناعي لا يستطيع أن يتعرف على جزء كبير من سكان العالم بدقة". ويثبت تحيز التعرف على الوجه أن النساء في وضع غير مؤات حتى في المجتمعات الغربية، حيث لا تزال البيانات الحيوية للوجه تحتوي على معدل خطأ أعلى بالنسبة للنساء مقارنة بالرجال.
النساء ذوات البشرة الملونة يعانين من الحرمان الشديد
بالنسبة للنساء ذوات البشرة الملونة، تخلق هذه القضايا عاصفة مثالية من الإقصاء. فمن المرجح أن يفتقرن إلى بطاقات الهوية التقليدية ومن المرجح أن يتم التعرف عليهن بشكل خاطئ بواسطة أنظمة الذكاء الاصطناعي عندما يتفاعلن مع منصات الهوية الرقمية. اختبار 2019 توصلت الحكومة الفيدرالية الأمريكية إلى أن هذه التقنية تعمل بشكل أفضل على الرجال البيض في منتصف العمر. ولم تكن معدلات الدقة مثيرة للإعجاب بالنسبة للأشخاص ذوي البشرة الملونة والنساء والأطفال وكبار السن.
نحن نشهد تضخيم تكنولوجيا القرن الحادي والعشرين تحيزات القرن العشرين.
تحذر المحامية في مجال الحقوق المدنية مايا جونسون من أن "تكنولوجيا القرن الحادي والعشرين تعمل على تضخيم تحيزات القرن العشرين". "إنها خطوط حمراء رقمية، بكل بساطة". يحدث عدم المساواة في تكنولوجيا التحقق من الوجه عندما يتم تدريب هذه الأنظمة على مجموعات بيانات تحتوي على المزيد من الوجوه الذكورية، وخاصة وجوه الذكور البيض، مما يؤدي إلى دقة أفضل لهذه المجموعات. يحدث هذا لأن العديد من مجموعات البيانات المبكرة تم إنشاؤها بواسطة باحثين ذكور في الغالب أو تم الحصول عليها من بيانات ذات تنوع محدود. ونتيجة لذلك، فإن النساء، وخاصة النساء ذوات البشرة الملونة، غير ممثلات بشكل كافٍ، مما يتسبب في ضعف أداء النظام بالنسبة لهن ويؤدي إلى تحديد الهوية بشكل خاطئ أو نتائج سلبية كاذبة.
سد الفجوة: دعوة إلى العمل
إذن، ما الذي يمكن فعله؟ يتفق الخبراء على أن الأمر يتطلب اتباع نهج متعدد الجوانب:
- المبادرات الاجتماعية:برامج لمساعدة النساء في الحصول على بطاقات الهوية التقليدية، وخاصة في المناطق الريفية والمناطق ذات الدخل المنخفض.
- الإصلاح القانوني:تحدي القوانين التمييزية التي تجعل من الصعب على النساء الحصول على بطاقات الهوية.
- إصلاح الذكاء الاصطناعي:تنويع فرق تطوير الذكاء الاصطناعي وتدريب البيانات لإنشاء أنظمة أكثر شمولاً.
- المساءلة:تنفيذ رقابة صارمة واختبار أنظمة الذكاء الاصطناعي بحثًا عن التحيز.
"هذا هو "مشكلة قابلة للحل" وتؤكد رائدة الأعمال في مجال التكنولوجيا عائشة خان: "إن هذا يتطلب الاعتراف بالمشكلة وتخصيص الموارد اللازمة لإصلاحها. ولا يمكننا أن نتحمل ترك نصف سكان العالم متخلفين عن الركب في العصر الرقمي".
مع تزايد اعتماد مستقبلنا على التكنولوجيا الرقمية، من المهم أن تقوم كل منصة تقدم تقنية التعرف على الوجه بدورها لضمان استخدام الذكاء الاصطناعي الأخلاقي غير المتحيز. في ComplyCube، كانت الاعتبارات الأخلاقية للذكاء الاصطناعي محورية في عملية التطوير الخاصة بنا. لقد قمنا بتنفيذ أنظمة الذكاء الاصطناعي/التعلم الآلي مع اكتشاف الانجراف الحساس للتحيز لضمان أن تحافظ النماذج على الإنصاف عبر مجموعات سكانية متنوعة. تضمن عمليات التحقق المستقلة لدينا أداءً شبه موحد عبر جميع المجموعات، ونستمر في تحسين أنظمتنا لتقليل التحيز وتعزيز الدقة.
لمزيد من المعلومات حول الشراكة مع شريك IDV الذي يركز على الذكاء الاصطناعي الأخلاقي، تواصل مع أحد أعضاء فريقنا خبراء الامتثال.
