11月7日，以“数字驱动发展，安全守护未来”为主题，“天府杯”2020国际网络安全大赛暨2020天府国际网络安全高峰论坛在成都举行。作为联合主办方之一，这是百度安全连续第三年参与这一中西部最重要的网络安全产业大会，并承办AI安全专题论坛。
会上，百度副总裁马杰与来自学术界、产业界及监管部门的众多专家学者、行业领袖们一起，共同探讨了在“新基建”战略大背景下网络安全的新机遇和新挑战，并分享了在各自领域、尤其是在AI安全领域的最新研究成果。
百度副总裁 马杰
毫无疑问，安全是2020年的关键词，其不仅关乎于虚拟的网络空间，也关系到了国家、产业、设备，甚至是我们每一个个体的健康。而从某种角度上讲，有关AI所带来的安全命题同样涉及到了线上线下的方方面面。
“AI安全是整个新基建中非常重要的一个基石，当中国的AI技术与世界领先水平跑到了同一起跑线上时，我们AI安全的研究也需要跟上这个速度。”在马杰看来，AI时代我们不仅需要面对来自传统安全领域顽疾的集中爆发，还需积极应对AI本身出现的安全性问题。“这已经超乎了我们对于安全边界与框架的传统认知范畴，而网络安全人的责任则在于，通过长期的研究与实践，能够跑到这些威胁造成重大危害之前。”
以“有AI，更安全”为理念，百度在AI安全领域的探索始终处于行业前沿。在今年9月举行的百度世界大会上，由Security、Safety和Privacy出发，马杰首次对外揭示了百度在AI安全领域探索与实践的三大全新维度。而它们也分别指向了强对抗环境下的安全威胁、非对抗条件下自然环境所产生的真实威胁及数据安全与隐私保护三大AI安全研究方向，并围绕算力、算法和数据，覆盖云、管、端等各个阶段。对于当前的AI安全研究来说，其不仅将为AI模型鲁棒性、AI模型保护及数据采集、处理、流通和可信计算等领域的安全技术应用提供深具前瞻性的思考角度，也将为行业企业开发更具专业性的AI安全解决方案带来方向性的规划指引。
事实上，以AI安全三大维度为基础，百度领先的AI安全能力已经投入到了包括AI模型鲁棒性体系化评估、AI模型安全加固、全网恶意网页监测、内容安全生态治理及全数据生命周期安全防护在内的一系列“实战”之中。而作为百度大脑的核心架构组成，上述AI安全能力也已完成了对百度整个AI技术研发流程的全面覆盖，并为百度智能云构建智能一体化的云上安全体系提供支撑。
当然，新基建时代AI安全生态的打造也需要来自产学研各界同仁的共同协力。在百度安全部副总监沈鹏飞的主持下，国务院网络安全学科评议组成员、复旦大学计算机学院科研副院长杨珉，四川师范大学网络与通信技术研究所所长李焕洲，西南交通大学系统可信性自动验证国家工程实验室常务副主任李志辉，德国CISPA亥姆霍兹信息安全中心张阳，成都无糖技术合伙人李维，与百度安全部产品负责人韩祖利一道，在而后举行的AI安全专题论坛上，共同分享了各自在AI安全领域最新研究进展。
百度安全部副总监 沈鹏飞
众所周知，新基建的大规模展开将催生大量AI技术的创新应用，而作为AI时代最重要的生产要素之一，数据的安全性问题正在成为当下首当其冲的安全挑战。由此，韩祖利首先介绍了百度在数据安全与隐私保护方面的实践以隐私合规检测、差分隐私、AI自动脱敏、联邦计算、可信计算等技术为代表，百度将AI安全能力贯穿于采集、处理、流通、计算等整个数据生命周期，在更好地保护企业机密和个人隐私的同时，也为百亿级大规模数据的安全联合计算创造了可能。进一步释放数据价值，扩大AI时代大规模数据协作的信任边界。
百度安全部产品负责人 韩祖利
而在保障数据安全的基础之上，软硬一体化趋势下AI系统的安全问题同样不可忽视。以分布式智能系统的安全性为核心，杨珉教授在演讲中探讨了开放网络中分布式学习系统内的“拜占庭攻防”问题，并通过GAA、即基于梯度聚合代理的鲁棒分布式学习，强化学习调整评估策略，为有效防御这类攻击提供了应对方案。
国务院网络安全学科评议组成员、复旦大学计算机学院科研副院长 杨珉
聚焦于隐蔽通信领域，李焕洲教授带来了将其与深度学习模型InfoGAN有机结合的创新性研究。在隐蔽载体迁移、多种隐蔽机制组合嵌套、隐蔽域多样化的背景下，二者的联动可在保持一定传输效率的同时，获得相较于传统隐蔽通信工具更强的隐蔽能力，兼具理论创新前景和工程可行性。
四川师范大学网络与通信技术研究所所长 李焕洲
作为AI安全技术矩阵的另一大分支，李志辉教授将重点放在了以自动推理为核心的可信性研究领域。这一技术的应用对于源码漏洞挖掘、协议漏洞挖掘、需求漏洞挖掘、网络漏洞检测与智能管控等方面的提升正发挥着越来越重要的作用，而基于逻辑推理的安全可信性研究，也是解决AI安全问题的一个优选项，尤其是基于推理的形式化验证。
西南交通大学系统可信性自动验证国家工程实验室常务副主任 李志辉
受到海外疫情交通管控的影响，来自德国CISPA的张阳博士通过远程视频的方式与会上的国内嘉宾分享了其在机器学习与隐私方面的研究，特别是利用机器学习模型应对隐私问题及关于机器学习模型本身的隐私隐患。而他也介绍了欧洲在AI安全方面的前沿进展，例如在常见的对抗样本攻击之外，针对GNN图神经网络的攻击所导致的隐私泄露问题。
CISPA亥姆霍兹安全研究中心 张阳
相较学术界对于专业领域的深入研究，来自产业界的安全专家们则将关注点更多地聚焦在了AI安全对现时安全挑战的赋能方面。会上，成都无糖技术合伙人李维介绍了电信诈骗、网站诈骗等网络犯罪案例中的人机对抗行为及当前业界取得的一系列战果；而蚂蚁集团对抗智能负责人薛峰则以未知风险快速准确识别、风险水位感知、实时检测能力为下一代安全技术的三大模块，落点于今后对抗智能技术体系的建设。
成都无糖技术合伙人 李维
蚂蚁集团对抗智能负责人 薛峰
随着我国逐步进入经济智能化的深度发展阶段，以人工智能为代表的新技术、新应用正在迸发出越来越大的能量。而在当下新旧安全问题不断叠加的趋势下，AI安全防护技术的持续升级也正在为我们提供新的工具去更有效地应对这些安全挑战，而其自身也已成为AI体系构建过程中不可或缺的重要一环。
未来，以本次“天府杯”为契机，百度将继续携手各界合作伙伴，以开放的代码和开放的技术推动AI安全开放生态的建设。支持监管部门，护航“新基建”，为打造更安全的AI时代贡献智慧，加速“智能经济”时代的到来。
