近日,由国家科技部主导的“科技创新2030重大项目安全大脑国家新一代人工智能开放创新平台”正式进入实施评审阶段,该项目由360牵头,联合清华大学、瑞莱智慧RealAI、中科院自动化所、中科院信工所共同协作完成。其中“面向人工智能算法的安全对抗攻防”的课题任务将由清华大学与瑞莱智慧RealAI共同承担研发。
人工智能安全是广泛智能应用的基矗在推动新一轮科技革命的同时,人工智能自身存在的严重安全问题引入了全新的安全威胁,尤其是涉及国防、经济、民生的人工智能设施系统,一旦遭受攻击,可能威胁到国防安全、企业安全、公民财产和生命安全。
科技创新2030重大项目是体现国家战略意图的重大工程,人工智能算法模型安全研究作为提升人工智能自身安全的重要课题参与其中,体现了国家新一代人工智能发展规划对人工智能安全治理的重要布局。
由RealAI负责的“面向人工智能算法的安全对抗攻防”课题项目主要针对深度学习对抗攻防中存在的问题,深度学习的对抗攻击、鲁棒防御和算法库等方面进行研究,为人工智能模型的安全性和可信赖应用提供理论基础和技术储备。
本课题的开展将本着开源开放的原则,技术层面围绕人工智能算法对抗安全,强调功能性和安全性的有机结合,在基础理论和基本算法等共性技术面向新一代人工智能“OpenI”的建设进行开源,服务国家新一代人工智能开源开放平台的建设,为我国和全球人工智能行业发展保驾护航,也为人工智能长久稳健发展提供重要积累。
RealAI之所以能参与本次重大项目,与其雄厚的技术实力密不可分。作为清华大学的人工智能研究院的核心孵化企业,RealAI是国内率先对深度学习的对抗攻击与防御进行深入研究的课题组之一,在人工智能的对抗安全领域具有深厚的积累,在ICML、NIPS、CVPR、AAAI 等顶级会议期刊发表论文数十余篇,提出多种代表性的深度学习对抗攻防算法,被主流开源软件收录为标准方法,荣获英伟达先锋研究奖。在 2017NIPS对抗攻防竞赛、2018 DEFCON CAAD CTF对抗攻防赛等多项国际竞赛中,RealAI战胜多支顶尖参赛队伍斩获冠军,在2019 国际安全极客安全大赛GeekPwn上更是一举获得“CAAD CTF图像对抗样本挑战赛”及 “CAAD隐身挑战赛”两项冠军。
对于项目的未来规划,RealAI表示将持续强化对抗攻防关键技术的研发,同时构建对抗攻防算法系统平台和对抗安全基准,打造行业应用示范,助力建设国家级AI安全防护体系,为科技创新2030的实现贡献力量。
(7649824)
