برنامج اكتشاف التزييف العميق: منع المحتوى الاحتيالي

لقد تطورت تقنية الذكاء الاصطناعي بسرعة من كونها بدعة إلى تهديد للعمليات الاجتماعية والاقتصادية والسياسية والديمقراطية في جميع أنحاء العالم من خلال الاحتيال باستخدام تقنية التزييف العميق. يجب تبني برامج الكشف عن التزييف العميق، بما في ذلك حلول التحقق من الهوية (IDV) مثل التحقق من المستندات والتحقق البيومتري، بسرعة لضمان استمرار الاقتصادات والحكومات وحياتنا اليومية دون انقطاع. 

إن تأثير التزييف العميق على الانتخابات والثقة العامة ومصداقية الأعمال التجارية يشكل مصدر قلق متزايد. ومع اقترابنا من دورات انتخابية حاسمة في العديد من الديمقراطيات، فإن فهم المخاطر التي تشكلها هذه التكنولوجيا أصبح أكثر أهمية من أي وقت مضى. ويبحث هذا الدليل بمزيد من التفصيل كيف تتحقق هذه التهديدات وأفضل الممارسات لمنعها من إفساد العالم الرقمي.

ما هو Deepfake؟

حصلت تقنية Deepfakes على اسمها من منهجية الذكاء الاصطناعي (AI)، التعلم العميق. خوارزمية التعلم العميق قادرة على تعليم نفسها كيفية حل مشاكل معقدة للغاية من خلال تحليل مجموعات بيانات ضخمة. يمكن لهذه الخوارزميات تبديل الوجوه بالصور ومقاطع الفيديو والأصوات وأي شكل آخر من أشكال المحتوى الرقمي لإنشاء محتوى واقعي للغاية ولكنه مزيف.

يتجه العالم بسرعة نحو أزمة التزييف العميق، مع مخاوف كبرى بشأن كيفية تأثير تقنية الذكاء الاصطناعي هذه، والتي تؤثر بالفعل على البيئة الاجتماعية والاقتصادية والسياسية العالمية. ومؤخرًا، أصبحت المخاوف بشأن نزاهة نتائج الانتخابات موضع تدقيق.

ما هو اكتشاف Deepfake؟

الكشف عن التزييف العميق هو العملية المستخدمة لتحديد الصور أو الأصوات أو مقاطع الفيديو التي تم إنشاؤها بشكل مصطنع لتبدو واقعية للغاية. بشكل عام، يتم استخدام الذكاء الاصطناعي التوليدي في عمليات التحقق من المستندات والتحقق البيومتري للكشف عن الأنماط في محتوى التزييف العميق التي لن توجد في "المحتوى الحقيقي".

إن حلول التحقق من الهوية المدعومة بالذكاء الاصطناعي أصبحت بسرعة الطريقة الوحيدة لمكافحة تقنية التزييف العميق بشكل موثوق والتخفيف من هذا النوع من الاحتيال في الهوية. وبالمقارنة مع الإنسان، يمكن لهذه التقنيات تحديد المحتوى المزيف بشكل أكثر فعالية، حيث تكون قادرة على معالجة المزيد من البيانات خلال فترة زمنية معينة، بشكل أكثر دقة، وبتكلفة أكثر فعالية. 

في سبتمبر 2023، أصدرت ثلاث وكالات رئيسية لإنفاذ القانون، وهي وكالة الأمن القومي (NSA)، ومكتب التحقيقات الفيدرالي (FBI)، ووكالة الأمن السيبراني وأمن البنية التحتية (CISA)، ورقة بحثية تعلن أن تهديدات التزييف العميق قد زادت بشكل كبير وأن التقنيات الآلية والوقائية ضرورية.

التهديدات من الوسائط الاصطناعية، مثل لقد زادت عمليات التزييف العميق بشكل كبير.

إن التهديد المتزايد الذي تشكله عمليات التزييف العميق في مختلف أنحاء العالم وبين الصناعات المختلفة يتطلب احتياجًا أكبر إلى حلول قوية للتحقق من الهوية. وتتطلب مثل هذه الحلول الذكاء الاصطناعي التوليدي (Gen AI) لتمكين التدابير الوقائية القادرة على مواجهة التهديدات الاحتيالية. 

التحقق من الوثيقة

التحقق من الوثيقة تعد عملية التحقق من الهوية واحدة من الخطوتين الرئيسيتين في عمليات مكافحة غسل الأموال ومعرفة العميل والتحقق من الهوية. تستخدم هذه العملية محرك تحقق يعمل بالذكاء الاصطناعي لقراءة مستندات معرفة العميل، مثل رخصة القيادة، في أقل من 15 ثانية.

من خلال التحقق من صحة المستندات واستخراج البيانات المتاحة في نفس الوقت، يوفر التحقق من المستندات مستوى قويًا من ضمان الهوية. كما يعمل كنظام أولي قوي للكشف عن التزييف العميق، حيث يكون قادرًا على تحديد الصور المصطنعة لبطاقات الهوية. لمزيد من المعلومات حول Gen AI وطرق الكشف عن التزييف العميق، اقرأ الاحتيال التوليدي بالذكاء الاصطناعي والتحقق من الهوية.

التحقق البيومتري

التحقق البيومتري تستخدم تقنيات التعرف على الوجه والتعرف على السمات الحيوية القوية لمسح البيانات الحيوية للمستخدم والتحقق منها والمصادقة عليها. من خلال تحليل المعلومات الحيوية، مثل ملامح الوجه والتعبيرات الدقيقة ولون البشرة والملمس (أحيانًا باستخدام بيانات بديلة مثل مسح القزحية)، تعمل هذه العملية كأداة للكشف عن الحيوية وتمنع هجمات العرض، مثل التزييف العميق.

إن المصادقة والتحقق البيومتري هما أكثر الطرق ضمانًا للتحقق من هوية الشخص وهما ضروريان للكشف عن التزييف العميق. تعد البيانات البيومترية الأصعب في التزوير، حتى باستخدام الذكاء الاصطناعي؛ ومع ذلك، هذا لا يعني أن التزييف العميق سهل الكشف عنه.

تُعد حلول التحقق من الهوية الآلية مكونًا أساسيًا في عمليات التحقق من الهوية الحديثة واكتساب العملاء والمصادقة نظرًا للحجم الهائل من الفحوصات التي يجب إكمالها بدقة وعلى نطاق واسع. لمزيد من المعلومات، اقرأ مزايا التحقق البيومتري.

التزييف العميق ونزاهة الانتخابات

تتمتع تقنية التزييف العميق بالقدرة على تقويض الانتخابات من خلال نشر معلومات كاذبة والتلاعب بالرأي العام. وفي المملكة المتحدة، وجدت دراسة حديثة أجراها معهد آلان تورينج أن ما يقرب من تسعة من كل عشرة أشخاص يشعرون بالقلق بشأن تأثير تقنية التزييف العميق على نتائج الانتخابات (معهد آلان تورينج).

9 من كل 10 أشخاص قلقون بشأن التزييف العميق التأثير على نتائج الانتخابات. 

إن هذا القلق ليس بلا أساس. فقد ظهرت بالفعل حالات بارزة من التزييف العميق الذي يستهدف شخصيات سياسية، مثل مقاطع صوتية وفيديو مفبركة لقادة بارزين، مع إمكانية بث الفتنة والارتباك بين الناخبين.

على سبيل المثال، في الفترة التي سبقت الانتخابات العامة في المملكة المتحدة في عام 2024، تم توزيع مقاطع فيديو مزيفة تحاكي أصوات رئيس الوزراء آنذاك ريشي سوناك، وزعيم حزب العمال كير ستارمر، ورئيس بلدية لندن صادق خان على وسائل التواصل الاجتماعي، حيث وصلت إلى مئات الآلاف من المشاهدين وخلقت مفاهيم خاطئة.

وتتراوح هذه التلاعبات بين فضائح فساد زائفة وتصريحات مضللة حول مواقف ونوايا سياسية. وقد يكون مثل هذا المحتوى ضارًا للغاية، خاصة عندما لا يستطيع الناخبون التمييز بين الحقيقي والمزيف.

اكتشاف التزييف العميق والاستجابة له

لقد أصبح اكتشاف التزييف العميق صعبا بشكل متزايد، حتى بالنسبة لشركات التكنولوجيا العملاقة مثل ميتا وجوجل ومايكروسوفت، التي تعهدت بمعالجة الذكاء الاصطناعي الخادع في الانتخابات. تكمن المشكلة الرئيسية في تعقيد أدوات الذكاء الاصطناعي التي يمكنها إنشاء محتوى لا يمكن تمييزه عن الواقع. 

على سبيل المثال، أشار رئيس الشؤون العالمية في شركة ميتا، نيك كليج، إلى التحديات في تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، التأكيد على أن الجهات الخبيثة يمكنها إزالة العلامات غير المرئية التي تشير عادةً إلى التلاعب.

يبدو أن التهديد الذي تشكله تقنية التزييف العميق عالمي ويتبع الأحداث الدولية. ففي أمريكا، تحاكي تقنية التزييف العميق تم استخدام صوت الرئيس جو بايدن في مكالمة آلية لمشاركة معلومات كاذبة حول الانتخابات. تسلط هذه الحادثة الضوء على قدرة تقنية التزييف العميق على قمع نسبة المشاركة في التصويت من خلال نشر معلومات مضللة. 

وعلاوة على ذلك، فإن المشكلة تمتد إلى ما هو أبعد من مجرد تحديد الفيديوهات المزيفة. فالانتشار السريع للمحتوى الاحتيالي يعني أنه بمجرد انتشار الفيديوهات المزيفة على نطاق واسع، فمن المرجح أن يكون الضرر قد وقع قبل فضح الصورة أو الفيديو. 

يتطلب هذا اتخاذ إجراءات ضد المحتوى الاحتيالي قبل أن يتم تحميله. يجب على منصات الوسائط الاجتماعية مثل Twitter (X الآن)، وFacebook، وInstagram، والعديد من المنصات الأخرى، استخدام دفاعات قوية مدعومة بالذكاء الاصطناعي للتعرف على الوسائط الاحتيالية قبل نشرها. يمكن تنفيذ مثل هذا الإجراء من خلال مجموعات أدوات تطوير البرامج وواجهات برمجة التطبيقات القوية للكشف عن المحتوى الاحتيالي. لمزيد من المعلومات، اقرأ التكامل مع SDK للكشف عن الحياة.

اكتشاف التزييف العميق في التحقق من الهوية

لقد تسللت تقنية Deepfakes إلى عدد أكبر من الصناعات مقارنة بوسائل التواصل الاجتماعي. لقد أصبحت مشكلة رئيسية في التحقق من الهوية وطرق المصادقة للعديد من الصناعات المالية، بما في ذلك تطبيقات الخدمات المصرفية التقليدية، وتطبيقات التداول والعملات المشفرة، وخدمات الدفع. تُستخدم هجمات Deepfakes كل يوم لارتكاب عمليات احتيال، واستنزاف الأموال من الحسابات، وحتى فتح حسابات جديدة، مثل تلك الموجودة لدى شركات الائتمان.

يشكل الذكاء الاصطناعي التوليدي أكبر تهديد للصناعة [المالية]، من المحتمل أن يؤدي ذلك إلى وصول خسائر الاحتيال إلى 1.6 تريليون دولار في الولايات المتحدة بحلول عام 2027، ارتفاعًا من $12.3 مليار في عام 2023.

ويشير هذا التوقع إلى أن عمليات الاحتيال باستخدام تقنية التزييف العميق قد تتصاعد بما يزيد عن 200% خلال فترة 4 سنوات، لتصبح مساهمًا رئيسيًا في الاحتيال المالي العالمي.

تآكل الثقة بسبب التكنولوجيا الاحتيالية

وبعيدا عن الانتخابات، يشكل انتشار تقنية التزييف العميق تهديدا أوسع للثقة العامة والخاصة في المعلومات والهوية. ومع انتشار تقنية التزييف العميق على نحو متزايد، أصبح الناس متشككين بشكل متزايد في وسائل الإعلام التي يستهلكونها. وقد يؤدي هذا التشكك في وسائل الإعلام إلى ظاهرة تعرف باسم عائد الكذاب حيث أن إمكانية وجود محتوى مزيف تمنح الأفراد إمكانية الإنكار المعقول، مما يقوض المساءلة والحقيقة.

ومن الأمثلة الشائعة على هذه الظاهرة التغطية الإعلامية الضارة لشخصية عامة أو زعيم سياسي أو رجل أعمال. فالشك في وسائل الإعلام الأصيلة يسمح لهؤلاء الأفراد باللعب على هذه المشاعر العامة، واستخدامها لصالحهم للادعاء بأنها غير حقيقية. ومن السهل أن نرى كيف قد تتفاقم هذه الظاهرة.

بناء الثقة على نطاق واسع باستخدام برامج الكشف عن التزييف العميق

ورغم أن مخاطر التزييف العميق واضحة، فإن الاستجابات التنظيمية الفعّالة لا تزال في طور النشوء. وفي حين تفتقر الولايات المتحدة إلى إجراءات تنظيمية على مستوى البلاد، فقد سنت 20 ولاية على الأقل قوانين ضد التزييف العميق للانتخابات، ولكن الاستراتيجية الفيدرالية المتماسكة لا تزال بعيدة المنال. ومع ذلك، فقد التزمت وزارة الخزانة بدعم التقنيات الآلية باعتبارها أفضل التدابير لمنع ومكافحة منهجيات الاحتيال الناشئة. 

ولم تشهد المملكة المتحدة سوى تقدم محدود. ففي حين توجد قوانين ضد إنشاء وتوزيع محتوى مزيف عميق ضار شخصيًا، مثل التزييف العميق الصريح، فإن اللوائح الأوسع نطاقًا التي تعالج إنشاء واستخدام التزييف العميق للتلاعب بالانتخابات لم يتم سنها بعد.

في الوقت الحالي، لا يزال الأمر متروكًا للشركة المعنية لتبني حلول قوية للتحقق من الهوية لمواجهة حركة الاحتيال باستخدام تقنية التزييف العميق. يجب على الشركات تضمين احتمالية الاحتيال باستخدام تقنية التزييف العميق في نهجها القائم على المخاطر (RBA) عند النظر في استراتيجية مناسبة لمكافحة غسل الأموال. 

حوالي ComplyCube

لمكافحة التهديد المتزايد للاحتيال باستخدام الذكاء الاصطناعي، أصبحت تقنية اكتشاف التزييف العميق وحلول التحقق من الهوية ضرورية الآن. تستخدم هذه التقنيات الجيل الجديد من الذكاء الاصطناعي لمسح مجموعات البيانات المماثلة المستخدمة لإنشاء التزييف العميق لتحديد المحتوى المزيف والحد من الاحتيال. 

التحقق من المستندات والتحقق البيومتري من ComplyCube هما طريقتان رئيسيتان تستخدمان في IDV للتحقق من الهويات ومصادقتها من خلال اكتشاف المحتوى المزيف العميق ويتم توظيفهما من قبل مئات الشركات التقنية في جميع أنحاء العالم.

تم إنشاء المزود الرائد لحلول التحقق من الهوية لمكافحة التهديدات المتزايدة للمنهجيات الاحتيالية المبتكرة في القرن الحادي والعشرين. من خلال الاستفادة من خوارزميات الذكاء الاصطناعي والتعلم الآلي المتقدمة، تقدم منصة ComplyCube خدمات التحقق من الهوية والتحقق البيومتري الشاملة، مما يضمن حماية قوية ضد الاحتيال على الهوية والمحتوى المزيف. 

تتميز خدماتهم بحل مرن وقابل للتخصيص، ويمكن تصميمها وفقًا لتحليل المخاطر المؤسسية للشركة لمساعدة الشركات على تحسين بروتوكولات الأمان الخاصة بها، والحفاظ على الامتثال للمعايير التنظيمية، وبناء الثقة مع عملائها في عالم رقمي متزايد. لمزيد من المعلومات، تواصل مع أحد المتخصصين في الامتثال اليوم.