لقد أدى صعود الاحتيال باستخدام تقنية التزييف العميق إلى إدخال بُعد جديد من المخاطر على الشركات، مما أدى إلى تآكل أسس الثقة الرقمية. لم تعد هذه التلاعبات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي - القادرة على محاكاة الكلام وتعبيرات الوجه والإيماءات بدقة مذهلة - مقتصرة على الخبراء المهرة. لقد عملت الأدوات مفتوحة المصدر على إضفاء الطابع الديمقراطي على إنشاء تقنية التزييف العميق، مما يسمح حتى لأولئك الذين لديهم خبرة تقنية ضئيلة بإنتاج مقاطع فيديو وصور مزيفة مقنعة، مما يؤدي إلى تضخيم تهديدها عبر منصات التواصل الاجتماعي. بالنسبة للشركات، فإن عواقب هجمات التزييف العميق بعيدة المدى، من الاحتيال المالي وانتهاكات البيانات إلى الإضرار بالسمعة وفقدان ثقة أصحاب المصلحة. ومع تطور هذه التهديدات، أصبحت أدوات اكتشاف التزييف العميق لا غنى عنها. يفحص هذا الدليل كيف تساعد هذه الأدوات الشركات على حماية العمليات، وتأمين ثقة أصحاب المصلحة، وإجراء تقييمات شاملة، والبقاء صامدين ضد التهديدات الناشئة.
ما هي Deepfakes؟
تُعَد مقاطع الفيديو والصور أو التسجيلات الصوتية المزيفة عبارة عن مقاطع فيديو أو صور أو تسجيلات صوتية تم إنشاؤها أو تعديلها بشكل مصطنع بحيث تبدو وكأنها حقيقية تمامًا. يتم إنشاؤها باستخدام تقنيات الذكاء الاصطناعي المتقدمة، مما يسمح للمحتالين بالتلاعب بمظهر الشخص أو صوته أو حتى سلوكه في المحتوى الرقمي. على عكس الصور البسيطة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تم التلاعب بها ببراءة، يمكن لمقاطع الفيديو المزيفة إنشاء هويات جديدة تمامًا وتزوير سيناريوهات العالم الحقيقي عن طريق استبدال وجه أو صوت شخص ما بوجه أو صوت شخص آخر.
ما يجعل التزييف العميق خطيرًا بشكل خاص هو ارتباطه بـ احتيال الهوية الاصطناعيةفي هذه المخططات، يمزج المحتالون المعلومات الحقيقية والمزيفة - مثل الجمع بين رقم الضمان الاجتماعي الحقيقي والتفاصيل الشخصية المزيفة أو الاسم المزيف - لإنشاء هوية مزيفة. يمكن بعد ذلك استخدام هذا الملف الشخصي المصطنع لتجاوز عمليات التحقق الأمنية أو فتح حسابات خادعة أو ارتكاب جرائم مالية، مما يجعل اكتشاف التزييف العميق أمرًا صعبًا للغاية بدون أدوات متخصصة.
46% للمنظمات واجه العالم احتيالًا في الهوية الاصطناعية في عام 2022.
في عام 2022، واجهت 46% من المؤسسات حول العالم عمليات احتيال بالهوية الاصطناعية، وهذا الرقم مستمر في النمو، مما يكلف الشركات مبالغ باهظة من المال ويعرض معلومات حساسة للخطر من الضحايا غير المطمئنين.
من المعاملات المالية الاحتيالية إلى التخريب السمعي، تطورت تقنية التزييف العميق إلى أداة قوية للمجرمين السيئين. وكما أشار معهد نورث ويسترن بافيت للشؤون العالمية, "في عالم مليء بالمعلومات المضللة وانعدام الثقة، توفر الذكاء الاصطناعي وسائل أكثر تطوراً لإقناع الناس بصحة المعلومات الكاذبة التي قد تؤدي إلى مزيد من التوتر السياسي والعنف، أو حتى الحرب. ويكشف هذا الواقع المؤلم ليس فقط عن التهديد الجديد المتمثل في التهديد التقني الذي تشكله تقنية التزييف العميق، بل وتأثيرها المجتمعي الأوسع.
التلاعب بالفيديوهات المزيفة على منصات التواصل الاجتماعي
غالبًا ما تخدع جودة الواقعية المفرطة في مقاطع الفيديو المزيفة المشاهدين وتتجاوز طرق الكشف التقليدية. ومع تزايد إقناع هذه التلاعبات، أصبحت التقنيات المتقدمة ضرورية لتحديد العلامات الدقيقة لمقاطع الفيديو والمحتوى المزيفة.
استخدام الذكاء الاصطناعي والتعلم الآلي في إنشاء مقاطع الفيديو المزيفة
في جوهرها، يتم إنشاء التزييفات العميقة باستخدام تقنيات التعلم الآلي المتقدمة والعميقة، في المقام الأول الشبكات التنافسية التوليدية (GANs) والشبكات العصبية. تم تصميم هذه الأنظمة لتكرار ومعالجة السمات البشرية وتعبيراتها وكلامها بدقة ملحوظة. لتبسيط الأمر، تعمل الشبكات التنافسية التوليدية مثل المنافسة المستمرة بين نظامين للذكاء الاصطناعي: المولد والمميز.
يعمل المولد مثل فنان ماهر للغاية، باستخدام أساليب التعلم الآلي لإنشاء صور أو مقاطع فيديو أو صوت مزيفة. وهو يفعل ذلك من خلال تحليل مجموعات بيانات ضخمة مليئة بأمثلة لملامح الوجه الحقيقية وأنماط الصوت وحركات الشفاه. على سبيل المثال، يدرس كيفية تحرك الفم عند نطق كلمات معينة، وكيف يظهر نسيج الجلد في ظل ظروف إضاءة مختلفة، وكيف تتحرك عضلات الوجه أثناء التعبيرات. وبمرور الوقت، يتعلم المولد تقليد هذه التفاصيل بدقة متزايدة.
من ناحية أخرى، يعمل المُميِّز كناقد دقيق. فهو يقيِّم المحتوى الذي ينشئه المُولِّد، ويحلل كل التفاصيل ــ حتى التناقضات الدقيقة في حركات الشفاه، أو انتقالات لون البشرة، أو انعكاسات العين ــ لتحديد ما إذا كان الناتج أصليًا أم مصطنعًا. وتتلخص مهمة المُميِّز في الإشارة إلى أي شيء يبدو غير مناسب.
يستمر المولد في تحسين عمله بناءً على الملاحظات التي يتلقاها من المُميِّز. بمرور الوقت، تعمل هذه العملية المتبادلة على تحسين قدرة المولد على إنتاج محتوى مقنع لدرجة أن المُميِّز نفسه يجد صعوبة في معرفة ما إذا كان المحتوى مزيفًا. هذه الدورة المستمرة هي ما يجعل التزييف العميق أكثر واقعية ويصعب اكتشافه بدون أدوات متخصصة.
تقنيات تبديل الوجوه وتأثيراتها على اكتشاف التزييف العميق
أحد الاستخدامات الأكثر شهرة لتقنية التزييف العميق هو تبديل الوجوه، حيث يتم فرض وجه شخص على وجه شخص آخر في محتوى الفيديو. يمكن أن تجعل هذه التلاعبات الأمر يبدو وكأن شخصًا ما قال أو فعل أشياء لم يفعلها أبدًا، مما يجعلها أداة قوية لحملات التضليل. ومع ذلك، فإن الآثار المترتبة على ذلك تمتد إلى ما هو أبعد من التضليل.
وقد أدت هذه التكنولوجيا الجديدة أيضًا إلى ظهور التصيد الاحتيالي العميق، وهو شكل خبيث بشكل خاص من أشكال الجرائم الإلكترونية. وفقًا لـ ستو سيويرمانيقول خبير الصناعة والمساهم في مجلة فوربس في مجال أمن الإنترنت: "من المعروف أن المحتالين يطورون تكتيكاتهم بما يتماشى مع تطور التكنولوجيا. وفي السنوات الأخيرة، تغير شكل التصيد مرة أخرى، باستخدام تقنية يطلق عليها بعض الخبراء أخطر أشكال الجرائم الإلكترونية التي تعتمد على الذكاء الاصطناعي في العالم".
تعد تقنية Deepfakes واحدة من أكثر التقنيات الناشئة خطورة المخاطر.
هذا التقييم مدعوم بـ دراسة أجرت جامعة لندن (UCL)، حيث صنف 31 خبيرًا التهديدات الأكثر أهمية التي تشكلها الجرائم التي يقودها الذكاء الاصطناعي. سلط البحث، الذي موله مركز دوز للجرائم المستقبلية التابع لجامعة لندن، الضوء على التزييف العميق باعتباره أحد أخطر المخاطر الناشئة. ومن بين الاستخدامات الشريرة العشرين للذكاء الاصطناعي التي تم تحديدها، برزت التزييف العميق لإمكاناتها في التسبب في ضرر واسع النطاق على مدى السنوات الخمس عشرة القادمة.
إمكانية الوصول إلى تقنية اكتشاف الزيف العميق ومخاطرها
لقد أدى انتشار أدوات إنشاء مقاطع الفيديو المزيفة مفتوحة المصدر إلى جعل هذه التكنولوجيا متاحة لجمهور أوسع. حتى الأفراد الذين لديهم خبرة تقنية ضئيلة يمكنهم الآن إنتاج مقاطع فيديو مزيفة باستخدام برامج مثل ديب فيس لاب، وهو نظام يتحكم في أكثر من 95% من إبداعات التزييف العميق. ويعني هذا التوفر أن تهديدات التزييف العميق لم تعد مقتصرة على المطورين ذوي المهارات العالية أو المنظمات الإجرامية السيبرانية الممولة جيدًا، ولكنها أصبحت الآن تهديدًا إلكترونيًا واسع النطاق يمكن أن يظهر من أي شخص تقريبًا لديه جهاز كمبيوتر واتصال بالإنترنت.
علقت شركة جارتنر على المخاطر التي تشكلها تقنية التزييف العميق على الشركات على مستوى العالم، قائلة: "في العقد الماضي، حدثت عدة نقاط تحول في مجالات الذكاء الاصطناعي تسمح بإنشاء صور اصطناعية. يمكن استخدام هذه الصور المصطنعة لوجوه أشخاص حقيقيين، والمعروفة باسم التزييف العميق، من قبل جهات خبيثة لتقويض المصادقة البيومترية أو جعلها غير فعالة". عاكف خان"نتيجة لذلك، قد تبدأ المؤسسات في التشكيك في موثوقية حلول التحقق من الهوية والمصادقة، حيث لن تتمكن من معرفة ما إذا كان وجه الشخص الذي يتم التحقق منه هو شخص حقيقي أم مزيف."
الانتشار الفيروسي للفيديوهات المزيفة: دور وسائل التواصل الاجتماعي
بمجرد إنشائها، يمكن أن تنتشر مقاطع الفيديو المزيفة بسرعة على منصات التواصل الاجتماعي المختلفة، مستغلة الروايات المشحونة عاطفياً أو المثيرة للجدل لكسب الزخم. ويؤدي هذا الانتشار الفيروسي إلى تفاقم التحدي المتمثل في التخفيف من تأثيرها، حيث يمكنها التأثير على الإدراك العام قبل اكتشافها.
الاحتيال المالي والمخططات المدعومة بتقنية Deepfake
يتم استخدام تقنية التزييف العميق بشكل متزايد كسلاح، مما يخلق مخاطر كبيرة للشركات. استخدم المحتالون ملفات الصوت والفيديو المزيفة لانتحال شخصيات المديرين التنفيذيين، وخداع الموظفين لحملهم على تحويل الأموال أو الكشف عن معلومات حساسة.
حالة واحدة جديرة بالملاحظة وقعت عملية احتيال في هونغ كونغ، حيث تم خداع موظف مالي في شركة متعددة الجنسيات لتحويل 1725 مليون تينغ كونغي. ووفقًا لشرطة هونغ كونغ، استخدم المهاجمون تقنية التزييف العميق لانتحال شخصية الرئيس التنفيذي للشركة بشكل مقنع أثناء مكالمة فيديو.
إن التلاعب بالوسائط الإعلامية قد يلحق ضرراً بالغاً بصورة العلامة التجارية للشركة. على سبيل المثال، قد يؤدي مقطع فيديو مزيف يصور رئيساً تنفيذياً في موقف محرج إلى ردود فعل سلبية من الجمهور وتآكل الثقة بين أصحاب المصلحة.
التحديات والاتجاهات المستقبلية في مكافحة التزييف العميق
لسوء الحظ، تواجه العديد من خوارزميات الكشف الرديئة تحديات مثل ارتفاع معدلات النتائج الإيجابية الكاذبة والتطور المتواصل لتقنيات إنشاء مقاطع الفيديو المزيفة. وتعد التحديثات المستمرة والتعاون بين الشركات ومطوري التكنولوجيا أمرًا ضروريًا للبقاء في طليعة هذه التهديدات.
للكشف عن التزييف العميق في الوقت الفعلي، يتم الحصول على وتحليل كمية كبيرة من البيانات مجموعة بيانات غير متحيزة ضروري.
كما هو موضح في الدراسة "اكتشاف مقاطع الفيديو المزيفة: التحديات والفرص" (كور وآخرون، 2024"على الرغم من التقدم الكبير في خوارزميات اكتشاف مقاطع الفيديو المزيفة، إلا أن العديد من التحديات الحاسمة لا تزال دون حل لأساليب اكتشاف مقاطع الفيديو المزيفة الحالية. لاكتشاف مقاطع الفيديو المزيفة في الوقت الفعلي، من الضروري الحصول على مجموعة بيانات كبيرة وغير متحيزة وتحليلها. يعد جمع البيانات في الوقت الفعلي أحد القيود الأساسية لطريقة التعلم العميق (DL). لسوء الحظ، لا يمكن للعديد من مجالات التطبيق في الوقت الفعلي الوصول إلى كميات كبيرة من البيانات الجديدة."
وهذا يوضح مشكلة رئيسية تواجه أغلب أنظمة الكشف عن مقاطع الفيديو المزيفة: فالأدوات لا تكون فعّالة إلا بقدر مجموعات البيانات التي يتم تدريبها عليها. وبدون الوصول إلى بيانات متنوعة ومحدثة، فإن حتى نماذج الكشف المتقدمة التي تعمل بالذكاء الاصطناعي تكافح لمواكبة مقاطع الفيديو المزيفة المعقدة بشكل متزايد. ولا ينبغي للشركات أن تستثمر في تقنيات الكشف عن مقاطع الفيديو المزيفة الموثوقة فحسب، بل يتعين عليها أيضًا دعم ممارسات أفضل لتبادل البيانات والتعاون بين الصناعات لمعالجة هذه الفجوة.
أدوات الكشف عن التزييف العميق لحماية الثقة الرقمية
ولمعالجة التحدي المتمثل في التلاعب بالفيديوهات المزيفة، يتعين على الشركات اعتماد أدوات وبرامج متقدمة للكشف عن الفيديوهات المزيفة. وتعتمد هذه الأنظمة على مزيج من تقنيات التعلم العميق وخوارزميات التعلم الآلي لتحليل الوسائط الرقمية (بما في ذلك الصور والفيديو والصوت) بدقة بحثًا عن علامات تشير إلى المحتوى الذي تم إنشاؤه أو التلاعب به.
95% من الكل تفشل عمليات دمج العملاء القياسية في الكشف عن وجود هوية مزيفة.
من بين منصات اكتشاف التزييف العميق المبتكرة في هذا المجال منصة ComplyCube. تقنية الكشف عن الحيوية يضع معيارًا جديدًا للتحقق البيومتري، من خلال التحقق من أن البيانات البيومترية تنشأ من شخص حقيقي حي وليس صورًا ثابتة أو مقاطع فيديو مسجلة مسبقًا أو عمليات تزييف عميقة تم إنشاؤها بواسطة الذكاء الاصطناعي.
بفضل خوارزميات الذكاء الاصطناعي والتعلم الآلي المتقدمة، يحلل ComplyCube التعبيرات الدقيقة، وملمس الجلد، وأنماط التعرف على الوجه، والتفاعلات البيئية في الوقت الفعلي. ومن خلال نهج متعدد الوسائط - يجمع بين الفحوصات النشطة، مثل حركات الرأس الموجهة، مع التحليل السلبي الذي يعمل بصمت في الخلفية - يكتشف ComplyCube بسلاسة محاولات التزييف المعقدة، بما في ذلك الصور المطبوعة والأقنعة ثلاثية الأبعاد وإعادة تشغيل الفيديو. يوفر هذا النظام القوي التحقق من الهوية بدقة عالية وأمان وسلاسة، مما يمكّن الشركات من منع الاحتيال بثقة.
بناء القدرة على الصمود في مواجهة تهديدات Deepfake باستخدام أدوات اكتشاف Deepfake
تمثل عمليات التزييف العميق تحديًا هائلاً للثقة الرقمية، وخاصة بالنسبة للشركات التي تسعى جاهدة للحفاظ على عمليات آمنة وموثوقة. من خلال تبني أدوات الكشف عن عمليات التزييف العميق المتقدمة ودمجها في أطر الأمن السيبراني الشاملة، يمكن للمؤسسات التخفيف من المخاطر التي تشكلها الوسائط التي يتم التلاعب بها.
ComplyCube عبارة عن منصة قوية مصممة لمواجهة التحدي المتزايد المتمثل في اكتشاف مقاطع الفيديو المزيفة من خلال الاستفادة من تقنيات التعلم الآلي المتقدمة وتقنيات التعلم العميق. من خلال الجمع بين التعرف على الوجه وتحليل المستندات وتدابير مكافحة التزييف، تضمن المنصة التحقق الآمن والموثوق من الهوية، حتى في عصر أصبح فيه اكتشاف مقاطع الفيديو المزيفة أمرًا صعبًا بشكل متزايد.
التعرف القوي على الوجه وتحليل التشابه: يستخدم ComplyCube الكشف الحيوي المعتمد من ISO 30107-3 وPAD Level 2 لضمان التعرف الدقيق على الوجه. من خلال مقارنة مقاطع الفيديو الحقيقية وعينات البيانات الحيوية، تميز الأداة بشكل فعال المستخدمين الحقيقيين عن الهويات المزيفة. يتم تعزيز قدرات الكشف عن التزييف العميق من خلال تحليل ملامح الوجه والأنماط السلوكية والإشارات البيولوجية الفريدة الأخرى، مما يخلق طبقة إضافية من ضمان التحقق.
التحقق المتقدم من المستندات: باستخدام مزيج من تقنيات التعلم الآلي المتقدمة والخبرة البشرية، يقوم برنامج ComplyCube بتحليل مجموعة واسعة من وثائق الهوية - مثل جوازات السفر ورخص القيادة وبطاقات الهوية الوطنية وتصاريح الإقامة وطوابع التأشيرة. تتضمن عملية التحقق هذه مقارنة المستندات بمجموعات البيانات الموثوقة لتحديد علامات التلاعب أو التزوير أو القائمة السوداء، والتأكد من أنها أصلية وغير معدلة.
تقنية الكشف عن حيوية الصورة المتطورة:بفضل اكتشاف الواقعية من المستوى 2 المدعوم بالذكاء الاصطناعي، يمكن لـ ComplyCube اكتشاف مقاطع الفيديو المزيفة ومنع محاولات انتحال الشخصية. يستخدم هذا النظام خوارزميات مكافحة التزييف لتحديد التناقضات الدقيقة بين مقاطع الفيديو الحقيقية والوسائط المزيفة، مما يوفر الحماية ضد تحديات اكتشاف مقاطع الفيديو المزيفة المعقدة بشكل متزايد.
التسجيل البيومتري السلس: توفر أداة ComplyCube تجربة التقاط وجه موجهة، مما يبسط عملية التسجيل البيومتري للصناعات مثل التمويل والاتصالات والسفر وخدمات المؤسسات. من خلال التركيز على تكامل مجموعات البيانات عالية الجودة وتحسين النظام المستمر، توفر الأداة عملية مصادقة سلسة ودقيقة.
في مواجهة التهديدات المتزايدة من المحتوى المزيف الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، يلعب شريك مثل ComplyCube دورًا أساسيًا في تعزيز الثقة الرقمية. يساعد نهجها الشامل للتعرف على الوجوه والتحقق من المستندات واكتشاف التزييف العميق المؤسسات على البقاء في صدارة التحديات مع ضمان سلامة عمليات التحقق من الهوية الخاصة بها.
اتصل بأحد أعضاء ComplyCube خبراء الامتثال اليوم للحصول على مزيد من المعلومات حول كيفية حماية مؤسستك.
