人工智能技术已从一种新奇事物迅速发展成为通过深度伪造欺诈对全球社会经济、政治和民主进程构成威胁的技术。必须迅速采用深度伪造检测软件，包括身份验证 (IDV) 解决方案（例如文档验证和生物特征验证），以确保经济、政府和我们的日常生活能够不间断地继续下去。
深度伪造对选举、公众信任和商业真实性的影响越来越令人担忧。随着我们接近几个民主国家的关键选举周期，了解这项技术带来的危险比以往任何时候都更加重要。本指南更详细地介绍了这些威胁是如何实现的，以及阻止它们困扰数字世界的最佳实践。
什么是 Deepfake？
Deepfakes 的名称源自人工智能 (AI) 方法论——深度学习。深度学习算法能够通过分析大量数据集来教会自己如何解决极其复杂的问题。这些算法可以将人脸替换成图像、视频、声音和任何其他形式的数字内容，以创建超逼真但虚假的内容。
世界正迅速陷入深度伪造危机，人们非常担心这种人工智能技术将如何影响全球社会经济和政治环境。最近，人们对选举公正结果的担忧受到了关注。
什么是 Deepfake 检测？
Deepfake 检测是一种用于识别人工制作的超逼真图像、声音或视频的过程。通常，生成式 AI 用于文档验证和生物特征验证过程中，以检测 Deepfake 内容中“真实内容”中不存在的模式。
人工智能驱动的 IDV 解决方案正迅速成为可靠对抗深度伪造技术和减轻此类身份欺诈的唯一方法。与人类相比，这些技术可以更有效地识别伪造内容，能够在给定的时间段内处理更多数据，更准确，更经济高效。
2023 年 9 月，美国国家安全局 (NSA)、联邦调查局 (FBI) 和网络安全和基础设施安全局 (CISA) 三大主要执法机构发布文件，宣称深度伪造威胁呈指数级增长，自动化和预防技术至关重要。
来自合成媒体的威胁，例如 深度伪造成数量呈指数级增长.
全球和各行业深度伪造威胁日益严重，对强大的身份验证解决方案的需求也越来越大。此类解决方案需要类似的生成人工智能 (Gen AI) 来支持预防措施，以应对欺诈威胁。
文件验证
文件验证 是反洗钱 (AML)、了解你的客户 (KYC) 和 IDV 流程中的两个关键步骤之一。此流程使用人工智能验证引擎在 15 秒内读取 KYC 文件（例如驾驶执照）。
证件验证可同时验证证件真实性并提取可用数据，从而提供强大的身份保证。它还可充当强大的初步深度伪造检测系统，能够识别人工创建的身份证图像。有关 Gen AI 和深度伪造检测方法的更多信息，请阅读 生成式人工智能欺诈和身份验证.
生物特征验证
生物特征验证 使用强大的生物特征识别和面部识别技术来扫描、验证和认证用户生物特征。通过分析生物特征信息（例如面部特征、微表情、肤色和纹理）（有时使用虹膜扫描等替代数据），此过程可充当活体检测工具并防止演示攻击（例如深度伪造）。
生物特征认证和验证是验证个人身份最可靠的方法，在检测深度伪造方面必不可少。生物特征数据是最难伪造的，即使使用人工智能也是如此；然而，这并不意味着深度伪造很容易被发现。
自动化 IDV 解决方案是现代身份验证、客户获取和身份验证流程中的关键组成部分，因为必须准确、大规模地完成大量检查。如需了解更多信息，请阅读 生物特征验证的优势.
深度伪造和选举诚信
Deepfakes 可能会通过传播虚假信息和操纵舆论来破坏选举。在英国，艾伦图灵研究所最近的一项研究发现，近九成的人担心 Deepfakes 会影响选举结果（艾伦图灵研究所）。
90% 的人担心深度伪造 影响选举结果。
这种担忧并非毫无根据。针对政治人物的深度伪造案例已经曝光，例如伪造知名领导人的音频和视频片段，有可能在选民中引起不和和混乱。
例如，在 2024 年英国大选前夕，模仿时任首相里希·苏纳克 (Rishi Sunak)、工党领袖基尔·斯塔默 (Keir Starmer) 和伦敦市长萨迪克·汗 (Sadiq Khan) 声音的深度伪造视频在社交媒体上传播，覆盖了数十万观众，并造成了误解。
这些操纵包括虚假的腐败丑闻以及关于政治立场和意图的误导性言论。此类内容的破坏性极强，尤其当选民无法区分真假时。
Deepfake 检测与响应
检测深度伪造越来越困难，即使是 Meta、谷歌和微软等科技巨头也已承诺解决选举中的欺骗性人工智能问题。主要问题在于人工智能工具的复杂性，它们可以创建与现实难以区分的内容。
例如，Meta 全球事务总裁 Nick Clegg 指出，识别 AI 生成内容存在挑战， 强调恶意行为者可以剥去通常表明操纵的隐形标记.
深度伪造的威胁是全球性的，似乎与国际事件息息相关。在美国，模仿 总统乔·拜登的声音被用于自动电话通话，以传播有关选举的虚假信息。 这一事件凸显了深度伪造通过传播误导性信息来抑制选民投票率的可能性。
此外，问题不仅仅在于识别深度伪造。欺诈内容的快速传播意味着，一旦深度伪造开始流行，很可能在图像或视频被揭穿之前就已经造成了损害。
这就要求在欺诈内容上传之前对其采取行动。Twitter（现为 X）、Facebook、Instagram 等社交媒体平台必须采用强大的人工智能防御系统来识别欺诈媒体，然后才能发布。这种操作可以通过强大的活体检测 SDK 和 API 来执行。有关更多信息，请阅读 与活体检测 SDK 集成.
身份验证中的 Deepfake 检测
Deepfake 渗透到的行业远不止社交媒体。它们已成为多个金融行业身份验证和认证方法中的主要问题，包括传统银行应用程序、交易和加密应用程序以及支付服务。Deepfake 攻击每天都被用来实施欺诈、盗取账户资金，甚至开设新账户，例如在信贷公司开设新账户。
生成式人工智能对金融行业构成了最大威胁， 到 2027 年，美国欺诈损失可能达到 $400 亿，高于 2023 年的 $123 亿。
该预测表明，深度伪造欺诈可能会在 4 年内增加超过 200%，成为全球金融欺诈的主要因素。
欺诈技术侵蚀信任
除了选举之外，深度伪造的泛滥对公众和私人对信息和身份的信任构成了更广泛的威胁。随着深度伪造技术变得越来越普遍，人们对他们所消费的媒体越来越怀疑。 媒体的这种怀疑态度可能会导致一种被称为 骗子的红利， 虚假内容的可能性使个人可以合理地否认，从而破坏责任和真相。
这种现象的一个常见例子是媒体对公众人物、政治领袖或商界领袖的负面报道。对真实媒体的怀疑让这些人能够利用这种公众情绪，利用它声称这不是真实的。很容易看出这种影响可能会滚雪球般扩大。
利用 Deepfake 检测软件大规模建立信任
虽然深度伪造的危害显而易见，但有效的监管措施仍在制定中。尽管美国缺乏全国性的监管行动，但至少有 20 个州颁布了针对选举深度伪造的法律，但一项有凝聚力的联邦战略仍然难以制定。 然而，财政部已承诺支持自动化技术 作为预防和打击新兴欺诈方法的最佳措施。
英国在这方面的进展也有限。虽然英国有法律禁止制作和传播对个人有害的深度伪造内容，例如露骨的深度伪造，但针对制作和使用深度伪造进行选举操纵的更广泛法规尚未颁布。
目前，相关企业仍需采用强大的 IDV 解决方案来应对深度伪造欺诈行为。企业在考虑合适的反洗钱策略时，必须在基于风险的方法 (RBA) 中考虑深度伪造欺诈的可能性。
关于ComplyCube
为了应对日益严重的人工智能欺诈威胁，深度伪造检测技术和 IDV 解决方案现在至关重要。这些技术利用 Gen AI 扫描用于创建深度伪造的类似数据集，以识别虚假内容并减轻欺诈。
ComplyCube 的文档验证和生物特征验证是 IDV 通过检测深度伪造内容来验证和认证身份的两种主要方法，全球数百家科技公司均采用这种方法。
领先的 IDV 解决方案提供商旨在应对 21 世纪日益增长的创新欺诈方法威胁。通过利用先进的人工智能和机器学习算法，ComplyCube 平台提供全面的 IDV 和生物特征验证服务，确保提供强大的保护，防止身份欺诈和深度伪造内容。
凭借灵活且可定制的解决方案，他们的服务可以根据公司的 RBA 进行定制，以帮助企业增强其安全协议、保持对监管标准的遵守并在日益数字化的世界中与客户建立信任。如需了解更多信息， 立即联系合规专家.
