“在人工智能领域，我们特别希望实现迈向多主体合作的敏捷治理模式，形成一个信任治理的关系，从‘共同无知’到联手应对复杂的治理需求，从‘讨价还价’变为互信互动中前行。”清华大学苏世民书院院长、国家新一代人工智能治理专业委员会主任薛澜在世界人工智能大会治理论坛上谈到。
9月1日，世界人工智能大会治理论坛在上海世博中心召开。作为2022年世界人工智能大会的特色论坛之一，此次论坛围绕“以人为本，赋能为善”的主题开展，邀请来自政府、企业、学界等专家学者阐述各自观点。
薛澜在主旨演讲中提出，随着人工智能的不断发展，应用不断多元化，出现了很多人们未曾想象的应用场景。不论是能够实现自我繁衍的首批生物机器人Xenobot，还是能够自主编程的机器人系统Alpha Code，都是人工智能创新发展的巨大进步。
在感叹科技无所不能的同时，由于人们无法完全掌握这些技术的发展轨迹，人工智能也为人类的未来增加了不确定性和一定风险。因此，对人工智能的治理有其必要性。
薛澜表示，回顾人工智能治理的发展历程，可以看到2017-2020年期间，主旋律是鼓励创新发展，属于围绕行业问题展开的回应式治理。从2020年至今，国家针对隐私、数据、算法等合规体系的制定相继完善，相关法律法规陆续出台，属于多部门整治的集中治理阶段。
从2022年往后，薛澜谈到近两年被热议的敏捷治理模式。敏捷治理模式下，企业应该主动起来，通过建立人工智能伦理委员会等形式加强内部审查，并且针对法律法规的出台加强与政府乃至学界的交流。企业之间需要就一些好的做法达成共识，进而转化成行业共识，并就此推进行业标准的制定。
企业、政府和学界之间的交流，也是这一阶段需要解决的。薛澜称之为“共同的无知”：“原来简单的情况，企业比较清楚，现在某种意义上企业不太清楚，监管方也不太清楚。在‘共同无知’的阶段，就需要加强交流。”
总的来看，敏捷治理以创新和治理协调发展为导向，由政府主导，多元参与协同互动。薛澜表示，敏捷治理的概念基本能够被认可，但具体执行中仍面临多重挑战。
首当其冲的是如何将抽象的治理原则落实为具体的法律法规，需要更多深入的研究和不同的争论。在抽象情境下，效率、公平、安全、自由都可以被纳入治理目标。但落实在不同场景中，这些目标的优先级是不一样的。如何对多元目标进行排序？最后又该如何进行取舍？薛澜结合自己对部分企业的调研结果，表示这是企业普遍面临的困惑。
其次是多元共治的体系的真正落实。如何破除监管部门和企业的固有关系？如何在治理体系中纳入社会意见？都是亟待解决的问题。薛澜举例，比如人工智能伦理的讨论，不该只是专家的“特权”，全社会可能都对这一问题有不同看法。
最后，对治理工具的选择也需要考量多种因素。高风险、明确的违规行为，需要明确适用法律法规。相对不那么清晰、有一些危险迹象的，则需要用柔性方法来解决。薛澜认为，如何刚柔并济地进行治理？如何把握治理节奏？仍然是监管部门的一个课题。
在演讲的末尾，薛澜再一次强调监管部门与企业之间的交流、建立互信关系。一方面，政府规则的颁布，应该从“一刀切”转为在执行过程中有所调整。比如对算法公开的规定，应该考虑到算法对企业生产的影响。
另一方面，企业和政府需要形成良性互动。“人工智能发展到这个阶段，对企业、政府都有很大的不确定性，需要双方搭建信任的桥梁。”薛澜谈到，“总体来说人工智能的发展还是给社会带来了巨大的利益，尽管有些风险，但苗头也都抓得比较及时。你往前一步，我也往前一步，往大家互信的方向做得更好。”
采写：南都记者黄慧诗 发自上海
