根据Juimo《2024在线身份研究报告》（简称《报告》）对包括美国、英国、新加坡和墨西哥等在内的多个国家超8000名消费者的调研显示：近四分之三的消费者（72%）每天都担心被深度伪造欺骗，从而泄露敏感信息或被骗金钱。只有15%的全球消费者（新加坡只有7%）表示他们从未遇到过深度伪造的视频、音频或图像。
深度伪造正在成为网络欺诈的重点难题
伴随着生成式AI的发展，AI技术在给带来便捷的同时也被不法分子所利用，网络犯罪的成本更低、效率更高，且更难被人们识破。奇安信集团发布的《2024人工智能安全报告》中显示，2023年基于AI的深度伪造欺诈暴增3000%，基于AI的钓鱼邮件增长1000%。
Jumio亚太区区域总监丁娜娜告诉钛媒体APP，深度伪造技术是数字世界的隐蔽“傀儡师”，他们操纵视觉内容，通过使用强大的算法和人工智能实现”换脸”，并创建非常逼真但完全虚构的视频或图像，从而捏造虚假现实。新兴换脸技术的出现是深度伪造的又一次演变，涉及网络犯罪分子结合现有视频或直播的新方法，并在原始信息流上实时叠加另一个身份。
据统计，仅 2022年一年，冒名欺诈就给英国消费者造成了 1.07 亿英镑的损失，给美国消费者造成了 26 亿美元的损失，给新加坡造成了 1.01 亿新元的损失。
不仅于此，在中国，利用AI实施电信诈骗的案例也已屡见不鲜。2023年5月，内蒙古包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。
案件具体如下：4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万元保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。
显然，生成式AI技术的发展，已经对线上交流的“信任度”造成了极大的冲击。在企业侧亦是如此，Gartner预测，到2026年，30%的企业将因为AI生成的人脸生物识别深度伪造攻击，而认为此类身份认证和验证解决方案不再能够起到可靠的作用。
通过深度伪造技术，不法分子可伪造员工身份，进而非法访问企业内部系统。通过精心制作的伪造视频和音频，攻击者可以模仿高层管理人员的面部表情、语气甚至行为模式，从而增加对指令的信任度，实现非法操作或窃取敏感数据。这不仅可能导致企业遭受重大经济损失，还可能泄露核心商业机密，影响企业的竞争力。
另一方面，Gartner预测，到2025年，生成式AI的采用将导致企业机构所需的网络安全资源激增，使应用和数据安全支出增加15%以上。
用AI抵抗AI
面对AI带来的日益严峻的安全挑战，“用AI抵抗AI”已经成为安全行业的共识，“面对AI大模型时代的深度伪造技术欺诈，我们建议企业使用先进的人工智能和生物识别分析来防范和对抗，”丁娜娜告诉钛媒体APP，“为了防止深度伪造，解决方式是必须控制自拍过程并拍摄一系列图像，以确定该人是否真实存在并保持清醒，而不是睡眠状态，不是面具、照片或视频，也不是深度伪造。”
从企业角度出发，企业应该将基于机器学习和深度学习的图像、视频、音频检测算法等在内的技术引入到自身安全系统之中，这些技术可以帮助识别出伪造内容，从而减少虚假信息的传播。
在丁娜娜看来，真实性检测步骤必须使用先进的AI和机器学习模型，而这些模型已经通过各种真实世界数据的训练。“这一步对于阻止欺诈者绝对至关重要，因为欺诈者现在可以轻而易举地制造出非常逼真的深度伪造照片，轻松骗过旧的身份验证技术。”丁娜娜强调。与此同时，自拍验证步骤还应该提供其他生物识别检查，如年龄评估，以标记与身份证件数据不符的自拍照。
通过活体检测技术，企业可以发现复杂的攻击，包括人脸交换、人脸变形和其他高级的欺骗攻击。不仅于此，在丁娜娜看来，企业还应当采用包括主动光源、视频注入检测以及眼部和面部运动分析等在内的先进技术，阻止攻击，并确认当前用户及其身份证件确实存在。“对于Jumio来说，我们能够基于面部的生物识别技术将自拍照中的特定面部特征（如眼睛、鼻子和耳朵的间距）与身份证件照片中的面部特征进行比较，来判断两者是否为同一个人。”丁娜娜指出。
以金融行业为例，金融行业在传统的eKYC（基于区块链的企业电子身份认证信息系统）之外，结合生物识别认证技术将有助于增强安全性。例如，验证用户的个人身份信息 (PII)、验证年龄、评估用户电子邮件和电话号码的信用级别、通过 IP 地址验证用户的位置，评估设备的可信度以评估用户的风险等级。拥有高度准确和主动化的身份验证解决方案，将有助于实时拦截可疑交易并迅速采取适当的行动。对于出海企业来说，还需要考虑不同国家和地区的客户尽调标准和跨境支付工作流程。
40+模型接入，黑名单数据库......让客户转化率提升40%
通过AI模型的技术，能让企业在进行eKYC时，效率更高，准确率更高，线上用户提供自拍进行人脸身份认证登入账号，增强了平台的安全性的同时，还可以确保KYC的合规性。
以Jumio的eKYC身份证件验证系统为例，该系统拥有200余个国家，超5000款证件的模板，并接入了40多个机器学习模型，并且依托于全球第二大黑名单数据库。据丁娜娜介绍，通过自动化在线身份验证技术，用户可以在几秒内就能完成KYC流程，从而提升用户体验和客户转化率约40%。与此同时，实施线上身份验证解决方案后，对于跨境的企业而言，可以在保持低运营成本的同时，在全球范围内招揽更多的用户。
而面对钛媒体APP提出的，用户是采用本地化部署，还是云付费的模式时，Jumio亚太区副总裁Frederic Ho则表示，无论是采用哪家提供的eKYC服务，用户使用该服务的最好的方式还是采用云计算的模式，“有些用户会在交付的时候，提出交付eKYC系统的方式，但这类方式让企业只能看到公司内部的数据，以及安全趋势，”Frederic Ho指出，“而采用云的方式，企业可以实时掌握全球的安全趋势，并具备全域数据训练出的模型能力。”（本文首发于钛媒体APP，作者｜张申宇，编辑丨盖虹达）
「关于创新场景50」
场景不是案例，它更加精准、也更加抽象。数字化就是创新场景的不断叠加和迭代。
在此背景下，钛媒体重磅推出「创新场景50」评选，每年遴选并解读50个全行业与业务深度融合的创新性场景及其解决方案，并在钛媒体年度ITValue Summit 数字价值年会上隆重颁奖、深度交流。
目前场景正在征集中，更精准的解读、更广泛的曝光、更强大的品牌势能，欢迎你提出问题，更欢迎你留下解决的方法和工具。
