随着Sora文生视频的惊人问世，人工智能的创新速度再度刷新了人类的认知。在为人类生产力极大赋能之际，它将带来哪些前所未有的挑战？相关的法律法规如何及时跟进？
全国政协委员、金杜律师事务所高级合伙人张毅长期关注研究人工智能发展和监管进程，包括网约车、短视频等与用户直接相关的一些行业。他为此提交了关于进一步完善人工智能算法治理体系的相关提案，建议尽快推进《人工智能法》出台。
他在接受南方周末专访时称，中国互联网行业发展水平和监管水平均居世界领先水平，可以把互联网领域成熟有效的监管经验借鉴到人工智能领域，进而构建人工智能算法治理体系，弥补监管体系空白。但需要建立对人工智能审慎、包容的监管。这应成为中国对人工智能技术立法监管的方向。
他还向南方周末表示，每年斥巨资投入科技领域的金融机构对于最前沿的人工智能大语言模型技术“既爱又怕”，既希望通过科技赋能实现商业模式上的迭代进化，又担心技术失控给金融机构带来新的风险隐患。而人工智能也给金融消费者权益保护带来全新课题。他为此建议，强化由网信牵头，发展改革、数据、工信、公安等多部门共同参与的算法治理联席会议制度，完善“横向协同，纵向联动”算法治理格局。
全国政协委员、金杜律师事务所高级合伙人张毅（受访者供图）
新质生产力话题最为热烈
南方周末：全国政协委员们在分组讨论政府工作报告时，哪个话题最热？
张毅：几天的分组讨论中，我的感受是大家对新质生产力的讨论最为热烈。如何加快发展新质生产力？很多委员从多角度提出了自己的意见和建议。在我看来，人工智能与实体经济各个行业产业相结合的过程，就是为各个行业产业科技赋能，推动各个行业产业加快数字化转型步伐，重构行业产业新生态，从而极大带动社会进步和新质生产力发展。
南方周末：政府工作报告亦提出，要开展 “人工智能＋”行动，打造具有国际竞争力的数字产业集群。“人工智能+”何以推动新质生产力发展？
张毅：生成式人工智能（大模型）正在改变几乎所有行业的底层逻辑，极大促进生产要素的重新组合配置，数据和算力的重要性大幅提升。这是从未有过的历史性变革。这几天，我参加分组讨论及与许多政协委员沟通交流，很明显感到，大家对人工智能推动新质生产力发展的重要意义已形成广泛共识。
尽快弥补监管体系空白
南方周末：你长期关注人工智能发展和监管进程。有何研究成果？
张毅：我一直关注研究网约车、短视频等与用户直接相关的一些行业。互联网平台企业算法导致算法歧视、算法黑箱、信息茧房等法律甚至伦理的一系列问题。如何在促进发展的同时，更好完善人工智能算法治理体系，监管手段和能力如何提升，对我国相关产业的发展和国家治理能力现代化至关重要。
南方周末：你有什么建议？
张毅：我建议，尽快推进《人工智能法》出台，构建人工智能算法治理体系，弥补监管体系空白。同时，可考虑通过针对性的法规予以补充规范。针对产业链上各主体，采取权责相统一原则，根据不同主体对于人工智能系统的控制力度来加诸相应的合规义务。将人工智能和算法技术按风险等级进行划分并采取不同监管措施，并设置事前、事中和事后全生命周期监管措施义务。
对人工智能宜审慎包容监管
南方周末：生成式人工智能技术对各行业产业带来新的挑战。国内外对该技术的监管现状如何？
张毅：大模型具有基于海量数据进行自学习特性，迭代快，其在垂类领域应用快速多样化，难以为现有监管体系和技术/工具覆盖，从而产生监管真空或失焦的情况。面对新兴事物，监管总是“慢半拍”是正常现象。
南方周末：上一个监管“慢半拍”的似乎是互联网？
张毅：对。中国的互联网行业崛起初期就已经经历过类似过程，起初人们担心加强监管会抑制创业创新，但随着行业发展甚至有时出现乱象丛生时，又迫切需要监管到位。
南方周末：你认为，对互联网行业的监管成功么？
张毅：中国的互联网行业发展水平和监管水平均居世界领先水平，我认为可以把互联网领域成熟有效的监管经验借鉴到人工智能领域。建立对人工智能审慎、包容的监管，正确处理好发展与平衡问题，应该成为中国对人工智能技术立法监管的方向。
商业银行对人工智能“既爱又怕”
南方周末：我们的“2023新金融发展报告”显示，系统重要性银行均持续巨额科技投入，且对前沿科技保持很高的敏锐度。很多银行是你们服务的客户，你如何评价中国银行业智能化水平？
张毅：科技对银行经营管理的支撑作用正在持续加大。但在我看来，银行的智能金融发展还处在早期阶段，各大银行对人工智能和大模型的应用仍主要集中在前台的产品营销、客户服务，中台的运营管理、风险控制等领域，但距离真正的“人工智能”仍有相当差距。
南方周末：什么原因造成了这种差距？
张毅：金融机构对最前沿的人工智能大语言模型技术“既爱又怕”，既希望通过科技赋能实现商业模式上的迭代进化，又担心技术失控给金融机构带来新的风险隐患。例如，商业银行正在探索通过智能图像管理系统对各种票据和合同进行真实性审核，甄别克隆票据和虚假合同，准确提取数据并及时纳入账务系统；但又担心未来的人工智能技术制作出足以乱真的假票据、假合同，增加相关业务的潜在风险。
应鼓励金融机构拥抱人工智能
南方周末：人工智能确实是双刃剑。立法和强化监管是否能避免人工智能干坏事？
张毅：任何法律和监管都无法保证违法行为不会发生，但可对违法行为及其后果进行有效处理和管控。金融机构应用人工智能技术优化其风控，是值得鼓励的进步。问题的关键在于如何强化和创新算法监管，使得监管机构对此类新型违法行为的追究有法可依，依法处置。
南方周末：你有何具体建议？
张毅：我建议强化由网信牵头，发展改革、数据、工信、公安等多部门共同参与的算法治理联席会议制度，完善“横向协同，纵向联动”算法治理格局。借助市场力量，外聘或者借调算法及人工智能领域的专家共同参与监管流程，补齐监管技术短板。引入“监管沙盒”制度，允许算法及人工智能企业在监管机构的监督下，在相对可控的环境内进行试验性的开发、测试和验证。此外，或可考虑探索将人工智能技术应用于人工智能监管，以提高监管效率。
保护用户享有拒绝算法服务的选择权
南方周末：人工智能也给金融消费者权益保护带来新课题。很多人基于各种原因不会使用智能手机。一旦金融业人工智能快速普及，会不会反而增加一部分群体的不便甚至是纠纷投诉？
张毅：的确很有可能。因此，我在提案中专门提出建议，保障用户权利。有关部门应推进算法服务商以个人能够理解的方式披露算法风险与可能产生的损害、算法运行步骤与决策结果间关系等运行规则，减少专业术语，便于用户理解和决策。
同时，应该要求算法服务商在个人用户决定选择拒绝使用算法服务的情况下，进一步优化用户便捷关闭算法服务的选项。
金融消费者无须“自证清白”
南方周末：个人用户在使用金融服务时，如果碰到电信诈骗、变相收费、强制消费和过度营销等问题纠纷时，往往处于弱势。人工智能技术能够给人们带来哪些帮助？
张毅：技术是中性的，但算法服务商和金融机构在此类案件或纠纷中是否负有责任，各自承担多少责任，实践中尚无定论，还需各方深入探讨。但在我看来，算法提供者拥有信息资源和技术优势，算法机制和决策过程不可解释或难以理解等原因，被侵害对象客观上面临“理解难、取证难”问题，而执法者也面临“认定难”问题。
南方周末：你的意思是，金融机构也可能成为弱势一方？
张毅：比如，金融机构一旦发生被不法分子利用高科技手段攻击，诸如利用人脸识别或人工智能技术冒领储户存款，损失谁来承担？谁有举证义务？这些问题现实且棘手。
南方周末：如何破解新难题？
张毅：我的建议是，拓展算法侵害行为维权路径与责任模式，增强用户维权力量。在算法侵权的诉讼中采取“过错推定”归责原则，实行“举证责任倒置”。用户仅承担受到算法损害的责任，由算法服务商对算法和损害之间无因果关系，以及无过错承担举证责任。探索人工智能算法领域的民事公益诉讼制度。
此外，不宜局限于要求具体损害结果的责任模式，可考虑综合考量训练数据、科技伦理等多维度规定算法侵害行为的违法责任，增强源头治理，形成责任闭环。
南方周末 李鹤鸣
责编 谢艳霞
