7 月 26 日，彭博社报道了一篇震惊媒体的报道，提醒全球企业警惕人工智能驱动的深度伪造欺诈威胁。该报道概述了法拉利的一位高管如何差点成为一场复杂的深度伪造骗局的受害者，其中一名来电者能够模仿法拉利首席执行官贝内代托·维尼亚的声音。由于全球企业可能损失数百万美元，这则新闻强调了在所有运营中实施先进的身份验证软件和协议的重要性。
Deepfake 欺诈和法拉利案例研究：发生了什么？
一个普通的周二早上，法拉利的一位高层管理人员开始收到几条短信，这些短信似乎是首席执行官贝内代托·维尼亚发来的。这些短信来自一个不寻常的号码。其中一条短信写道：“嘿，你听说了我们计划的大型收购吗？我可能需要你的帮助。”
冒名顶替者随后表示，他需要这位高管“准备好签署我们的律师将尽快发送给你的保密协议”。他继续说道，“意大利市场监管机构和米兰证券交易所已经得到通知。做好准备， 请酌情处理。”
虽然这些信息可能不太可信，但随后的语音通话更具欺骗性。诈骗者设法模仿维格纳的声音，完美地模仿了维格纳的意大利口音和语调。
该冒名顶替者试图解释为什么他实际上是用另一个电话号码打来的，因为此次通话的性质极其机密，可能会对中国产生影响，而且需要进行一项未指明的货币对冲交易。
“抱歉，贝内代托，但是 我需要确认你的身份”这位高管说。他反问：“前几天你推荐的那本书叫什么名字？”
经过这一验证问题后，诈骗者很快就放弃了这个计划并挂断了电话。该事件随后引发了法拉利内部调查，但代表们决定不对此事发表评论。
Deepfake 欺诈如何渗透到企业中
虽然这起案件令人震惊，但这肯定不是第一次。Deepfakes 的影响力在过去几年里不断扩大，网上的 Deepfakes 视频数量也在不断增加 2019 年至 2023 年由 550% 推出.
令人吃惊的是 超过三分之一的企业 过去 12 个月，美国各地都经历过深度伪造安全事件。
今年 5 月，新闻媒体报道称，广告公司 WPP Plc 的首席执行官马克·里德 (Mark Read) 也遭遇了类似的骗局。攻击者使用精心设计的深度伪造技术在 Microsoft Teams 通话中模仿首席执行官。随着这些人工智能骗局变得越来越准确，团队更容易成为受害者并损失数百万美元。
意大利米兰理工大学网络安全教授 Stefano Zanero 在接受《财富》杂志采访时表示，
“这只是时间问题，这些基于人工智能的深度伪造复杂工具有望变得非常准确。”
今天最有可能出现的情况是 威胁行为者使用深度伪造的技术在于商业电子邮件泄露 (BEC) 尝试。 然后，攻击者可以使用人工智能语音和视频克隆技术来诱骗收款人进行公司资金转移。
不幸的是，许多企业已经成为此类骗局的受害者。《南华早报》在 2 月份报道了一个例子，骗子利用 Deepfake 欺骗员工，一家未透露姓名的公司面临 亏损$2亿港元 （$26 百万美元）。
全球对 Deepfakes 的反应
在英国，根据去年通过的《网络安全法》，分享深度伪造视频是违法的。这一决定是由于色情深度伪造视频的广泛制作而产生的。
欧盟发布了《欧盟人工智能法案》，该法案于 2024 年 3 月 13 日由欧洲议会通过，专门规定了欧盟应如何监管深度伪造，其中规定：“使用人工智能系统生成或操纵与现有人物、物体、地点或其他实体或事件明显相似的图像、音频或视频内容，并会让人误以为是真实或真实的（“深度伪造”）， 应披露该内容是人为生成的 或被操纵”。
尽管欧盟并未禁止深度伪造，但人工智能办公室正在制定行为准则，为深度伪造的分类提供进一步的建议。英国是否会效仿这一举措尚待观察，但政府对人工智能白皮书的回应推动了透明度的提高。
在发生多起重大丑闻后，中国已出台专门法规，直接针对深度伪造，导致深度伪造应用程序 ZAO 被禁止进入应用商店。这与美国对人工智能监管的立场形成鲜明对比，美国没有关于制作或分享深度伪造的联邦法律。然而，随着美国参议院的法案等，变化可能即将到来 禁止假冒法案 正在被提议。
为什么我们需要立即采取行动
尽管此类诈骗在网上广为人知，但许多组织仍然没有意识到人工智能欺诈攻击的威胁。不过，有些技术可以识别这些形式的深度伪造，每家企业都必须利用这些技术。
生物特征身份验证 (IDV) 具有活体检测功能的软件可以检查图像或视频中的面部特征和细微表情，分析它们是否显示出生命迹象。因此，Deepfakes 可以被识别，但利用这些技术的组织还不够多。
人工智能驱动的 eKYC 为企业带来的好处
需要利用人工智能的 eKYC 解决方案来保护组织。深度伪造绕过身份验证方法的案例很多，导致骗子成功渗透到各种企业。
2019 年，一段深度伪造视频被用来欺骗一位 CEO 电汇 $243,000 至银行账户。同样，在2021年，一个犯罪团伙利用deepfakes绕过eKYC身份验证，访问了价值数百万美元的银行账户。
2019 年，一段深度伪造视频诱骗一位首席执行官向其银行账户转账 $243,000。同样，在 2021 年，一群犯罪分子利用深度伪造视频和图像绕过 eKYC 身份验证，盗取了数百万美元的银行账户。因此，许多公司意识到需要投资先进的 AI 技术来检测和防止深度伪造在身份验证过程中的使用。eKYC 可以提供：
- 定制解决方案： 自动化工作流程可高度定制，以满足不同的合规性要求。利用机器学习技术，eKYC 解决方案可以简化数据提取，同时提供流畅的用户入职体验。
- 简化入职流程： 实施强大的 eKYC 流程可让您快速有效地验证客户，从而使组织能够安全地扩展。
- 增强安全性： eKYC 在保护组织免受身份欺诈和金融犯罪侵害方面更为有效。使用先进的生物特征验证以及人工智能驱动的欺诈检测，组织可以最大限度地降低欺诈风险。
- 改善客户体验： 简化的入职流程还能带来更积极的用户体验、减少摩擦并提高客户满意度。
- 全球范围： eKYC 解决方案使企业能够在全球范围内运营，快速验证众多客户并支持多种语言和各种国际法规。
采用 ComplyCube 的 eKYC
ComplyCube 是一个 RegTech100 一体化平台，用于自动执行身份验证 (IDV)、反洗钱 (AML) 和了解您的客户 (KYC) 合规性。其客户遍布全球，涉及法律、电信、金融服务、医疗保健、电子商务、加密货币、旅游等领域。
我们的全套 AI 驱动的 KYC/AML 解决方案增强了自动化工作流程，高度定制以满足客户的合规性要求。利用我们团队开发和拥有的机器学习技术，我们的解决方案简化了数据提取，同时为用户提供了流畅的入门体验。
接触 我们的专家团队 今天。
