中新网乌镇11月22日电(奚金燕 蓝伊旎)人工智能生成的内容如何“防伪”？网络空间国际规则怎么制定？数据安全的边界在哪里？随着人工智能的高速发展以及在各领域的广泛应用，加强人工智能在开发和应用层面的安全治理逐渐成为社会共识，聚焦的议题也愈加细分、深入。
11月19日至22日，2024年世界互联网大会乌镇峰会在乌镇举办，人工智能成为本次大会核心议题，AI的伦理风险、安全治理等问题成为讨论的焦点。
11月19日至22日，2024年世界互联网大会乌镇峰会在乌镇举办。 主办方 供图
近年来，AI技术的快速发展带来了巨大的经济和社会效益，也引发了众多安全和治理方面的挑战。
在本届峰会的网络安全技术发展与国际合作论坛上，奇安信集团董事长齐向东指出，AI技术正面临着“黑箱化”导致内容生成良莠不齐、“黑产化”导致深度伪造泛滥成灾和“武器化”导致黑客攻击愈演愈烈三重安全危机，亟须通过多维度体系化防护、深度伪造技术防治以及安全大模型的创新来加强治理。
“有了高效的安全治理，AI才有未来。”他认为，建立AI安全大模型是应对未来挑战的关键策略。
以奇安信为例，用其部署自研的QAX-GPT安全大模型赋能天眼、天擎、椒图等安全产品，再依托AISOC进行告警全局关联，可以让网络安全、终端安全、服务器安全的防御变得更加主动。
再如，安恒信息牵头研发的恒脑安全垂域大模型在杭州亚运会赛事期间辅助处理安全事件287起，降低了ITCC57%的工作量。以AI对AI，以AI管AI，人工智能切实给网络安保带来了质的变化。
同时，随着人工智能深入到生活的各个方面，如何用人文关怀搭建数字桥梁、实现技术发展与社会责任间的平衡成为新的课题。
在量子之歌董事长李鹏看来，随着数字资源供给日益丰富、数字发展环境逐渐优化，老年人对知识与精神生活的需求也更加迫切，银发教育普惠及资源共享需要在供给侧发力。
他呼吁，人工智能的发展应当为老年教育等领域提供更多的数字化解决方案。比如，通过“线上+线下”的融合创新，一起构建“15分钟学习圈”，实现“老年大学办到家门口”，打通“老年教育最后一百米”，以数字创新增强老年教育服务的“可及性”和“均衡性”。
那么，应当如何加强安全治理和社会引导，助力人工智能可持续发展？
据了解，本届峰会围绕人才培养、数据安全等方面，打造了多个“亮点”、实现了多个“首次”。
峰会期间，世界互联网大会智库合作计划启动。该计划由全球约60家智库联合发起，涉及互联网、人工智能、大数据、通信、云计算等专业方向和数字经济、网络文化、网络空间国际治理、网络安全等研究领域，将为全球互联网领域学术交流和思想对话机制化、常态化搭建合作平台，推动全球智库围绕互联网相关议题开展研究、交流与合作。
功以才成，业由才广。互联网迅猛发展，亟需规模宏大、结构合理、素质优良的创新人才队伍。
为了应对这一挑战，世界互联网大会数字研修院正式启动，旨在聚焦人工智能、数据、网络安全、跨境电商等国际社会广泛关注的热点领域，通过开展国际化综合性、专题性培训和沙龙活动，为全球各国，特别是发展中国家培养具有广阔国际视野、前沿数字化思维、先进数字化技能的专业人才。
作为研修院首批合作单位，安恒信息相关负责人表示，将以此为契机，在网络安全人才培养领域走稳走远，走深走实，助力“数字研修院”这一全新引擎，以更加创新、开放、普惠的方式，搭建全球能力建设平台，维护安全的新疆域、文明互鉴的新平台。
此外，世界互联网大会还成立了首个专业性、常态化分支机构人工智能专业委员会。第一届专委会成员共170余人，汇集了来自人工智能领域国际组织、知名智库、科研院所、专业协会及产业界的权威专家和专业人才，设立了标准推进计划、安全与治理推进计划和产业推进计划。
当前正处于全球人工智能治理的重要时期，专委会将秉持搭建国际交流合作平台、推动发展与治理协同、促进全球共享人工智能发展成果的原则，通过开展专题研讨、成果分享、倡议发布等活动，不断凝聚国际共识，促进人工智能包容普惠、可持续发展。(完)
