为推动和引领人工智能领域创新发展，近日中国人工智能产业发展联盟、厦门人工智能安全研究院组织开展了2021人工智能“创新之星”、“创新人物”评选工作。凭借在人脸安全方面的技术积累和实践经验，“腾讯可信人脸安全”项目从众多参选项目中脱颖而出，获评为2021人工智能“创新之星”。
本次获评为2021人工智能“创新之星”的腾讯可信人脸安全技术，着重关注人脸验证等应用中存在的安全问题。腾讯可信人脸安全技术通过构建立体的人脸安全技术体系，可以对物理介质攻击、数字内容合成攻击和对抗攻击实现全面覆盖，为人脸信息的应用提供安全保障。
腾讯可信人脸安全技术主要包含人脸活体检测、人脸内容取证和人脸对抗攻防三大关键技术。
01
人脸活体检测
针对物理呈现攻击风险，腾讯优图研发了完整的活体检测体系，覆盖线上和线下各类平台。其中，在线上交互活体方面，创新性地提出了光线活体技术，并进行大规模应用，该方法通过捕捉人脸在手机发射不同颜色光照下的成像差异，利用多任务网络回归人脸3D信息，无需额外硬件，就可有效防御2D平面攻击；在分类分支上引入材质约束，解耦形状信息与材质信息，从底层纹理上细粒度区分不同材质，有效防御3D立体攻击；同时融合活体技术与密码学策略，将投射光线组合作为验证码，在检测过程中进行自编解码，完成实时的自动校验，进一步提升整体系统的安全性。
光线活体算法框架
针对无交互场景创新地提出特征解耦，自适应特征学习等方法，有效提升模型精度和泛化能力，相关方法已发表于ECCV、AAAI、IJCAI、ACM MM等会议。此外，在线下场景中，基于3D摄像头设计多模态活体方法，同时校验各模态间的一致性，极大压缩可攻击的空间，并通过国家银行卡检测中心人脸活体检测-增强级认证，达到金融支付级安全标准，形成了领先的系统性技术。
02
人脸内容取证
针对deepfake等人脸内容生成攻击，腾讯优图研发了相应的内容取证技术框架。在人脸图像内容取证方向，从人脸图像生成的原理和本质出发，关注人脸空间特征的不一致性，提出通过局部关联学习来进行伪造检测的新方法，基于注意力机制同时提取RGB-频域空间特征，并设计多尺度局部相似性建模网络来衡量局部区域特征间的相似性，最终构造泛化性强、鲁棒性高的相似模式，支持多种图像伪造方法的有效检测。
人脸视频取证算法框架
在人脸视频内容取证方向，腾讯优图关注人脸时序运动的不一致性，基于相邻帧间的特征差异，同时从竖直和水平方向上进行细粒度差异建模，引导模型关注时空上的不一致区域来进行真假鉴别。
以上相关工作已发表于AAAI、ACM MM等会议，并刷新过FaceForensics Benchmark，同时在全球伪造人脸检测比赛DFDC中获得金牌。
03
人脸对抗攻防
在对抗攻防方向，腾讯优图针对人脸识别深度模型，提出一种高隐蔽性且可物理化的对抗攻击的方法Adv-Makeup。该方法首先通过生成对抗网络生成真实风格的彩妆，并设计融合网络实现逼真的上妆过程，最后采用基于元学习的对抗攻击策略实现迁移性强的对抗彩妆。生成的Adv-Makeup可以支持物理化，实现真实场景下的攻击。针对Adv-Makeup攻击，腾讯优图已研发了针对性的防御算法De-Makeup，保证模型安全。
彩妆对抗攻击算法框架
针对黑盒场景攻击，腾讯优图提出一种全新的替代模型训练方法，无需真实场景数据，通过数据生成网络生成具有多样性的数据，并设计对抗替代模型训练框架，将分布在决策边界的对抗样本引入到替代模型训练过程中，进一步提升替代模型和目标黑盒模型的相似度，从而提升黑盒攻击的成功率。为应对新型对抗攻击，腾讯优图提出一种基于可信性的对抗防御方法，并结合对抗训练和多模态融合等方面全面提升系统的安全性。以上相关工作已被CVPR、IJCAI、ACM MM等会议接收。
目前，腾讯可信人脸安全技术已经为多款腾讯产品提供人脸安全能力支撑。同时，通过腾讯云慧眼、微信开放平台等平台，为行业提供人脸安全服务。
如今，人脸应用安全是智能时代的重要命题，为防范AI技术滥用，未来腾讯优图实验室将在人脸安全领域持续深耕，精心打磨算法研究和业务落地，通过开放和输出相关技术服务的形式，在为产业数字化转型进程保驾护航的同时，为社会创造更多的正向价值。
