Deepfakes暴露了某些面部识别技术的漏洞

移动设备使用面部识别技术帮助用户快速安全地解锁手机、进行金融交易或访问医疗记录。但宾夕法尼亚州立大学信息科学与技术学院的一项新研究表明，采用特定用户检测方法的面部识别技术极易受到基于深度伪造的攻击，这可能会给用户和应用程序带来重大的安全问题。

研____其他人的真人版，也称为deepfakes。确实使用这些检测措施的应用程序在识别deepfakes方面的效果也明显低于应用程序提供商声称的效果。

“近年来，我们观察到面部认证和验证技术的重大发展，这些技术已部署在许多安全关键应用中，”信息科学与技术副教授、该项目的一位首席研究员TingWang说。“与此同时，我们也看到了deepfake技术的巨大进步，使得以低廉的成本合成实时面部图像和视频变得相当容易。因此，我们提出了一个有趣的问题：恶意攻击者是否有可能滥用deepfake来欺骗面部验证系统?”

该研究于本周在USENIX安全研讨会上发表，是第一个关于现实世界环境中面部活动验证安全性的系统研究。

Wang和他的合作者开发了一种新的deepfake攻击框架，称为LiveBugger，可以对面部活动验证进行可定制的自动化安全评估。他们评估了所提供的六种领先的商业面部活动验证应用程序编程接口。据研究人员称，这些产品中的任何漏洞都可能被使用它们的其他应用程序继承，从而可能威胁到数百万用户。

LiveBugger使用来自两个独立数据集的深度伪造图像和视频，试图欺骗应用程序的面部活跃度验证方法，该方法旨在通过分析用户面部的静态或视频图像、聆听他们的声音或测量他们的反应来验证用户的身份执行命令的动作。

研究人员发现，所有四种最常见的验证方法都可以轻松绕过。除了强调他们的框架如何绕过这些方法之外，他们还提出了提高技术安全性的建议——包括消除仅分析用户面部静态图像的验证方法，以及在分析音频和来自用户的视频。

“虽然人脸活体验证可以抵御多种攻击，但深度伪造技术的发展对其提出了新的威胁，目前人们对此知之甚少，”信息科学与技术博士生、该论文的共同第一作者李长江说。纸。“我们的发现有助于供应商修复其系统的漏洞。”

研究人员已向研究中使用其应用程序的供应商报告了他们的发现，其中一家供应商宣布计划开展深度伪造检测项目以应对新出现的威胁。

“人脸活体验证已应用于在线支付、网上银行和政府服务等许多关键场景，”王说。“此外，越来越多的云平台已经开始将人脸活体验证作为平台即服务提供，这大大降低了企业在产品中部署该技术的成本和门槛。因此，人脸的安全性活体验证非常令人担忧。”

标签：