科技新闻特约作者 熊磊
编辑 郑可君
2025年2月11日，在"2025巴黎人工智能行动峰会"框架下，由中国人工智能发展与安全研究网络发起，上海期智研究院联合清华大学人工智能国际治理研究院共同主办，多家网络成员单位联合协办的官方边会同期召开。
本次边会以"人工智能技术应用与发展前沿"为主题，吸引了全球顶尖人工智能专家参与研讨。会议聚焦通过国际合作机制弥合智能发展差距，保障各国共享人工智能进步成果，同时致力于构建开放包容、互利共赢的全球人工智能治理框架，携手应对技术革新带来的机遇与挑战。
出席活动的重量级嘉宾包括：清华大学交叉信息研究院院长兼人工智能学院院长、图灵奖得主姚期智，清华大学文科资深教授、人工智能国际治理研究院院长薛澜，清华大学法学院教授、智能法治研究院院长申卫星，清华大学计算机系教授唐杰，工信部人工智能场景化应用与智能系统测评重点实验室主任胡国栋，中国信通院副院长、国际电联标准化局第十七研究组副主席魏亮，麻省理工学院教授兼生命未来研究所所长马克斯泰格马克（Max Tegmark），以及国际治理创新中心全球人工智能风险倡议执行主任邓肯卡斯-贝格斯（Duncan Cass-Beggs）等学界与产业界代表。
薛澜主持会议并介绍到，为践行2023年中国发布的《全球人工智能治理倡议》，“中国人工智能发展与安全研究网络”凝聚中国人工智能发展和安全领域的优势力量和智力资源，对应“人工智能安全研究所”，代表中方与各国的人工智能安全研究机构展开对话与合作。
姚期智在主旨报告中指出，AI正在快速前进，ChatGPT在两年前迎来了自己非常关键的时刻，两年以来不断积累各种能力，以惊人的速度快速向前，而最近的DeepSeek向大众展示，它有可能极大降低开发和使用大语言模型的成本，这样的成本节约是来自于我们对于模型和培训模式等方面的革新引起的。
与此同时，DeepSeek也是一个开源的模型，它可以造福于全世界所有的开发者社区，能够让我们共同去推进AI的技术。这些发展既为驱动新的创新提供了更多可能，也带来了诸多风险挑战，而在互联互通时代，加强国际合作至关重要。
当前，人工智能安全的全球合作基础良好并取得重大进展，第一是全球在AI安全方面有了非常好的合作，AI安全的研究团队现在也如雨后春笋般出现。第二是一系列推动国际合作的基础设施正在形成.事实上现在国际上有很多会议是关于AI安全的，不管是政府间的会议，还是私营部门的会议.很多全球的调研是关于AI安全的,多专家共同参与的报告发表，标志着国际科学界对于AI的快速发展，以及对于安全是有共识的。
这可以进一步的鼓舞全球在人工智能领域的合作，事实上我们已经在全球AI安全合作方面迈出了重大的进展，所以一定要持续以更多的国际合作和对话来推动这样的势头，正如巴黎AI行动峰会这样的会议一样。最后，姚期智强调，科学创新由人类创造，为人类美好未来而服务，我们要一起努力，共同营造人工智能发展的良好环境，使人工智能增进人类福祉。
申卫星在发言中表示，中国已形成人工智能立法的多层综合结构。在定位上，中国人工智能立法力求在创新与监管之间取得平衡，确保法律的明确性，促进行业发展，并与现有法律保持一致。在内容上，中国人工智能立法需廓清人工智能的定义，囊括人工智能法基本原则，建立同AI 分级风险相协调的自我规制机制、风险管理机制、透明机制与损害救济机制。中国也将在《全球人工智能治理倡议》指引下，加强国际合作，共同推动公平、公正的全球人工智能治理规则制定，以增强AI 系统的安全可靠性，促进技术创新和包容性发展。
唐杰在发言中提出，大模型研究的终极目标是教会机器像人一样思考（即AGI），该目标可能很长远也可能很快实现。在“AGI定义”问题上，他由低到高给出了包括预训练语言模型、对齐与推理、自我学习、自我认知以及意识的AGI五层次定义，并认为当前处于第二与三层交汇处；在2025AGI发展趋势上，他提出AI可以说发展成更大的大语言模型，对于人类是更多贡献于人们日常的生活以及工作的场景。
可以说它是一个智能的助手或者是一个超级助手，当然他们有这样的能力24小时不间断的工作，给它这样一些任务，它是可以在非常快的速度来完成的。当然以前这样一些任务，可能以前要花很长的时间，但是现在AI作为助手可以用极短的时间帮助我们完成任务。
所有的这些大语言模型，就算是给它一些非常少的从人类的角度进行输入的话，它也会给你带来更多的结果反馈，所以我们说大语言模型的未来对我们是至关重要的。人类与代理之间的协作潜力将成为变革性的力量，而最具有突破性的变化将发生在科学研究领域；在“AGI安全”问题上，他提出需要在模型、个人和国家层面制定全面的安全策略。最后，他认为AGI的路还很长，需要共同努力，实现安全、可控、无幻觉的稳步发展。
胡国栋在发言中提出在从大语言模型到大世界模型、从人工的智能到智能体的智能发展历程中，需要向善为民的人工智能来增进人民福祉、服务经济社会。他介绍了人工智能系统在中国农业、工商业、消费与医疗等场景中的应用与成效，人工智能给农业带来了希望，将工商业带入了数智融合世界，为消费者创造了新场景，让医生治愈了更多病人。在人人生而平等的基础上，AI应该服务于各国人民，由他们共治和共享。
魏亮在发言中介绍，中国充分发挥产业优势，推动人工智能技术创新和与实体经济深度融合，在人工智能安全治理标准化和产业实践方面做出了有益探索。在安全治理标准化方面，先后发布《新一代人工智能发展规划》（2017）、《国家人工智能产业综合标准化体系建设指南》（2024），《人工智能安全标准体系1.0》（征求意见稿），并在ISO、ITU、IEEE等国际标准化组织中贡献力量。产业界积极响应、主动作为，先后发布《人工智能安全承诺》，《人工智能风险治理报告》, 发起大模型安全基准测试等，在人工智能安全治理方面开展了大量创新探索。
邓肯卡斯-贝格斯（Duncan Cass-Beggs）在发言中指出，联合国可在促进人工智能发展、推动人工智能赋能可持续发展等问题上发挥重要作用。但联合国的作用有着一定的局限性，应当针对不同场景和问题采取不同的国际治理机制。前沿人工智能失控等极端风险，更加依赖掌握前沿技术的国家之间进行协调；而深度伪造、虚假信息等一般性的人工智能风险，则更加依赖国内治理。各国政府应利用外交政策来共同设计国际合作机制，因为国家间合作将对公民福祉产生更大影响。构建人工智能安全研究所的全球网络，将是实现人工智能安全治理的关键在，可以在此基础上推动建立更加广泛的全球人工智能治理框架。
马克斯泰格马克（Max TegMark）关注先进人工智能技术的安全风险与控制问题。他认为，当前世界大国与大型科技公司热衷于推动通用人工智能（AGI）的实现，但却忽略对其控制机制的研究。为先进人工智能技术建造安全“护栏”是必要的，能避免失控技术引发极端、生存性风险。为此，有必要推动企业与政府之间的合作，借鉴现有监管模式如药品管理、核设施管理的经验，在部署强大的人工智能系统之前，应当通过安全标准审查和控制机制保障其安全可靠。同时，应该倡导全球合作讨论，确保AI技术的发展符合人类利益和价值观。
在问答环节，听众提出如何加强全球在人工智能治理上的协调与合作，如何确保发展中国家的参与，以及如何应对各国在发展和认知上的差异等问题。
对此，姚期智提出，要建立发展中国家与发达国家、与拥有先进AI技术与能力国家间的对话机制，通过学术交流将发展中国家的学生或学者送到技术发达地区学习。同时他呼吁，媒体应更多地传递第三世界国家的声音。
邓肯卡斯-贝格斯（Duncan Cass-Beggs）提到，人工智能的发展应从竞争转向合作，应该通过国际合作来实现安全与创新的平衡。申卫星介绍到，中国在起草相关法律过程中，始终关注如何平衡安全和发展的这个关键问题。他认为，关注安全是为了去创造有利于创新和发展的环境，而不是把安全作为牺牲发展的借口。
胡国栋提及2021年奥运会新增加的“更团结（Together）”概念，AI全球治理也应遵循这一精神。在追求更快、更强计算能力的同时，应该通过更加团结的合作，实现安全治理目标。马克斯泰格马克（Max TegMark）也认为人们应该重拾奥林匹克精神，去重新思考人类与机器的未来关系，人工智能发展不应以国家间的“输赢”来衡量，技术应超越国界。
