本文字数：5278字
阅读时间：11分钟
一场关于人工智能的有趣对话
在2019年世界人工智能大会上，有一个饶有意思的对话。阿里巴巴总裁马云充满信心地说，AI（Artificial Intelligence，人工智能）可以解释为“阿里智慧”(Alibaba Intelligence)。特斯拉公司首席执行官马斯克（Elon Musk）楞了一下，轻轻回应说，“那最后还真有可能（It might end up being true）”，或许马斯克在想，这也是他自己想做的。马云后来又说：“在我的一生中，特别是过去的两年多时间，当人们大量谈论AI，认为机器会控制人的时候，我十分不认同。那是不可能的事情。人是不同的，机器是人造的，根据科学,人不可能造出比他自己更聪明的机器。人很聪明的，而且还有很多聪明人。他们不可能造出比自己更聪明的机器（来控制自己）。”马斯克这次的回答却非常敏捷明快：“我太不同意你了（I very much disagree.）。”这段对话既显示了中国企业家对未来的憧憬和人定胜万物的信心，也反映了美国企业家坚持理念，不轻易放弃对科学能力的认同的精神。
马斯克认为，与计算机比，人其实很笨（very dumb）。机器已经在很多地方比人聪明，能做到人做不到的事情。人们往往低估AI的能力，以为那只不过是另一个聪明人的出现。“我们实际上已经开始进入半机器人的状态（Cyborg）。很多人都离不开手机、电脑或助听器等辅助设施，将其作为自己能力延伸的一部分了（将来还有神经元接驳）。”高性能计算机的诞生，让一小部分机器不如人的地方越来越少。“人工智能进步的速度真是太快了，将来人的作用可能只是一个计算机编码的功能，去启动一下机器，就不需要了。到那种情形出现的时候，我们该怎么做，我不知道，真不能确定（What do you with a situation like that. I don’t know. I am not sure.）。”
人工智能时代的来临对现有社会秩序形成前所未有的挑战
两位引领互联网时代革命的企业家的对话，是对人文社会的共同关怀，展现了对未来技术挑战的两种态度。马斯克作为在技术前沿的工程师企业家，对AI自然有深入的认识。虽然上个世纪五、六十年代以来，人工智能的炒作并不成功（因为当时理论与实践的差距太大，中间需要填补的空白太多，那时的人工智能科学家依然不免要继续坐冷板凳），但在计算机和物联网技术大踏步发展的今天，计算机的数据传输能力、储存能力和算法能力都进展了百万倍以上，很多过去不可能的事情现在都成为可能，如超大规模的数据库管理、基因系列的排序、蛋白结构的运算等等。
很多人不太重视的人机对弈的故事，描述的就是AI技术进步的轨迹。这是个漫长和复杂的过程，简单说来，先是计算机与简单方格棋（Checker）的对弈，后来是IBM深蓝（Deep Blue）与国际象棋手的对弈，这时的计算技术相对简单。到“深脑”公司（DeepMind）开发的“阿尔法围棋”（AlphaGo，又音译为“阿尔法狗”）与围棋手开始对弈时，计算机的能力就开始引人瞩目了。“阿尔法围棋”输入30多万盘世界围棋冠军的残局做底，与世界冠军李世石下了五盘棋，四胜一败。“深脑”公司被谷歌收购后，不断有了新的改进。谷歌的技术人员拿回去复盘，发现机器人输的那一盘棋是因为对手下了一步在30万盘棋里没有出现的棋，于是团队的一位华裔科学家发明了一种“残差算法”，把围棋中剩下的80%的可能，也就是人类30万盘棋的经验里没有的可能都算出来了，围棋一共有10的176次方种可能，比宇宙里所有的原子数量还要多（10的80次方），这就是第二代机器人“阿拉法围棋零”（AlphaGoZero）。“零”的意思是它不需要向人类学习经验，把法则输入即可，后来甚至不需要法则，只须自己对弈，每秒钟下200盘棋，把所有的棋步都走一遍。这就好比不向武圣张三丰学武功，靠高速度自我对弈，自学武功，把所有可能的招数都走过一遍。7天走完30万盘棋子，40天学完所有的招数，人类没有的也学了，招招不忘，天下无敌手。后来的对弈成绩是100比0。再到第三代的“阿尔法叠”（AlphaFold）,用一个蛋白的基因系列，算出超级复杂的蛋白的三维结构，可以节约下买一千万美元的电子冷冻镜等描述蛋白结构的仪器。
要回答机器是否比人聪明的问题，并不是完全没有办法。聪明的定义是什么？感知学习能力、记忆力超强、反应敏捷这三个基本特点，机器在后两项能力上绝对远超人类。机器有巨大的知识吸纳和储存能力，过目不忘；有高速运算检索，随时回答问题的能力。前一项能力，机器也在人的辅助下不断改进，从阅读、声音转换，到图像、电波和光信息接收，包括选择判断能力（如“华生医生”程序）都在日益精进。从20世纪初莱特兄弟发明飞机到今天的一百多年的时间里，飞机的变化不可同日而语，而AI在近年来的进步，更是令人吃惊。有专家说，AI一周的学习就能够吸纳人类2000多年的知识积累，六个月的智能进化能力超过人类的50万年。
当然，人的能力比机器更多元，但计算机可以用速度进行弥补。根据脑科学家的研究，人的大脑中神经元之间的沟通有200多种方法（分泌不同的化学酶介），但计算机只有一种“0”和“1”。但人脑的信息传递不够稳定，只有30%成功率，其它的也就是我们说的“忘记”了，传递速度也比较低，为每秒200公里左右；计算机虽然只有一种方法，但速度是每秒30万公里。如果这些数字正确的话，让我们做一个游戏性的算术：人脑的信息传递速度为：200（种方法）× 30%（接受率）× 200（公里/秒）=12,000，机器的传递方法：1（种方法）× 100%× 300,000（公里/秒）=300,000= 12,000× 25。就是说，在单细胞传递的信息的情况下，计算机的信息处理速度是人脑的25倍。2007年1月因特尔发布的65纳米的酷睿2四核处理器，就含有5.8亿个晶体管；而2013年的酷睿i7-4960X，制造工艺为22nm，晶体管数量达到了18.6亿。如果将这些2厘米左右的芯片处理器（processors）并联起来，计算机的能力就会大大提高，可以超越人的智慧的并联。因为，一个人学会了，另一个并不会，还要沟通协调；而一个机器会了，所有的机器就都会了，基本没有协调成本。机器比人缺的是“意识”（consciousness）,而这种意识，被分解成理性和情感后，会发现情感是阻碍理性的因素，而且，情感也并非不能被机器语言表达。
当然，在人工智能能力的研究和描述方面，有人“咋呼”多，往往言过其实；有人专注于单项研究，兢兢业业。很多人可能不会有突破，也有人会抵制和批评这一技术。抑或有人取得了研究突破，但得不到关注，长期默默无闻。不过，这些群体的努力、积累、思想、方法最终会以不同的形式被社会所认知、表达（成为公认的观点）和运用。不同的研究成果被社会接受的时间有长短，但终归都会有一天得到认可，并以“涌现”的方式出现在我们面前，让我们措手不及。
马云其实说得很好：“我就那么傻，要与机器比下棋，与汽车比谁跑得快吗？”但问题是，你不比它，它要来比你，它要抢夺你的工作，你的幸福感，甚至生命权。到目前为止，弱人工智能的机器人，如精密焊接、精密芯片刻制、负重搬运，无人机、精密制导的能力早就在人类之上，比较强的人工智能如人脸识别、情感对话、知识交流、音乐欣赏能力等也在迅速提升。如人脸识别的误差率，机器只有3.5%，低于人的5%；自动驾驶辅助的汽车事故率，是没有辅助的事故率的1/4。在许多工厂，包括零件加工、焊接、玻璃制造、产品分装运输、轧钢、甚至汽车组装，机器手、机器人已经形成了巨大的就业替代效应。未来的世界，机器人生产、自动车送货、自动交易、提供知识和信息咨询的现象将大量出现，按《未来简史》作者的说法，将会出现掌握和使用机器人的人（神人），和被机器人替代的人（无用的人）。社会的过渡、世界的稳定、人类的和谐，将会首先在劳资关系、社会贫富关系、未来教育关系、人的能力与发展的关系（如有植入的知识下载能力的神经元链接）、生命的不平等（辅助肢体能力，DNA改造等）和社会福利关系等多方面涌现。说到底，智能机器的问题还是人类自己的问题，是人们如何驾驭技术，处理好自己的矛盾的问题。
公共治理创新刻不容缓
公共治理是人类使用理性，特别是集体的理性、智慧和组织能力来管理和协调自己的生活，与人类自己和大自然和谐共处的努力。公共治理的能力受“公共能力”的影响和制约。马云说过，我们有很多聪明的人，但社会互动历史告诉我们，很多聪明人生活在更多的普通人之中，他们在一起的决策结果大多数情况下只是平均值，并不一定是优秀智慧结晶的正向和。因为公共能力的决定因素不一定是最优秀能力和智慧的集约，而是由社会的整体认知、群体所支持的领袖能力、社会整体的行为能力、社会群体文化意识、社会发展阶段、制度能力和外部环境等等影响和制约的，加在一起，就是体制机制能力。人类终究要解决自己的问题，有的解决得好，平稳过渡，国泰民安；但有的解决得不好，以动荡、战争、甚至毁灭告终。应对技术创新和社会力量的变化，需要有新的人类治理机制。
事实上，新技术出现本身也是人类治理体系运行的结果。因为，技术的产出和创新，需要依靠人才能力的发挥，而人才能力的发挥，靠的是人才的生存环境和体制环境。有了好的技术，还需要有技术与资源、市场的良好结合，这一点，需要靠适应新技术的企业的组织能力和竞争能力。而企业组织处于国家政策和国际环境之中，其潜力的发挥需要靠国家制度和治理体系的创新。所以，技术创新、组织创新和国家公共治理体系创新三个层次环环相扣，互为依存，密不可分。
科学技术的不断突破，提高了工农业的生产力，提供了新的能源，给人类带来了巨大的福祉，但也带来了前所未有的能够毁灭地球的能力。能源耗竭、生态污染、气候变暖，大规模改变环境的工程，加上巨大破坏性的核武器，使今天高度发达的人类文明，比历史上任何时候都更加脆弱和缺乏韧性，也更需要进行针对性的“技术”治理。
对于突飞猛进的科学技术发展，我们一方面恨其不足，有了想要更多，好了还要更好；但另一方面，我们常常对新技术的到来准备不足，没有想好如何有效驾驭这些技术，让它们在带来福祉的同时，不造成或少造成破坏。比如说，英国的蒸汽机革命，污染了环境，摧毁了传统的农业社会；美国的大农业，将印第安人赶入深山和沙漠，将小农场主排挤到社会的边缘。再如，希特勒在德国钢铁工业大发展的基础上，挑起了世界大战；二战时日本在航母和海军航空兵实力迅速壮大的基础上，悍然袭击了珍珠港，造成人类文明史上的空前浩劫。二战后，以联合国等世界组织为代表的世界新秩序在防止战争、协同应对自然灾害、提供国际援助与维护世界和平方面做了不少工作，但近年来的逆全球化思潮又开始挑战这一本就不够牢固的国际秩序。黑格尔说过，人类从历史中得到教训就是，人类从来不记取历史的教训。一位香港学者也曾形象地比喻，人们往往驾着历史的巨轮，重复着过去的悲剧。在信息资讯高度发达的今天，我们重复历史错误的概率本该越来越小，但新技术带来的新挑战却往往是历史经验中没有的问题。新技术带来新的生产力变革，需要的正是上层建筑结构的改变和国家治理体系的创新，新技术的出现或许是新制度形成的启示，而新制度更是新技术成长和发展的温床。十八大以来，党中央提出创新体制机制，提高现代治理体制和治理能力，就是呼唤制度创新的号角。
在理论上，大家都知道技术是工具，人文诉求才是社会发展的目标。但实践中，人们却一直在重复着用工具理性替代人文目标的错误，包括今天的科技崇拜和数据崇拜，忽略技术对于人的侵犯。一个简单的例子就是当前普遍使用的AI刷脸技术。通过机器学习，AI能够成功识别和储存人脸特征这一重要的、终身的生物数据，理论上对于防范犯罪有极大的威慑力，但这一技术也同时有深度的隐患，它不仅损害一般公民的个人隐私权和尊严感，也可能对人民的生命财产安全造成新的、过去未曾想到的威胁。比如说，一个小小的航拍器在数公里之外就可以快速扫描人的面部信息，通过机器学习将脸部特征提取出来，如果被犯罪分子制作成一个“假脸皮”，那么用人脸特征作为密钥，其安全性就荡然无存了，事实上，利用人脸特征识别技术的犯罪案例已经开始出现。然而，这个“不安全”的技术，却由于企业家的推动和使用者的了解不足而大行其道，得到迅速推广，并没有经过公共政策和伦理等方面的充分讨论，这不能不说是我们太快地、盲目地相信了科学技术的“神奇”。对大数据技术的推崇，可能导致社会用大量资源重复地建设庞大的数据库，并不理会资源的浪费和数据对个人权利的侵蚀。以消费推送为例，商贸公司在消费者不知情的情况下收集其个人信息，推送他们有偏好的消费品，降低了消费者寻求新产品，拓展消费兴趣的可能。人的学习、生活和兴趣的发展需要新奇和变化，为商家盈利设计的推送消费，特别是在教育领域，危害的是社会生态的变化性学习和发展，更不用说个人隐私数据被买卖，导致消费者生活受到干扰或危害消费者权益的犯罪行为。所以说，数据治理，也是AI时代的重中之重。
西方国家在科技发展的历史过程中，经历过不同的科技治理阶段。比如，早期西方对科技发展的方式缺乏治理，是自由放任（Laissez Faire），让找到资源的有才华的科学家自由探索，发现了的就是新技术。后来发现，有组织地发展科技的力量更强大，特别是30年代金融危机后的大型国家工程建设和二战中的原子弹研制，以举国之力进行科技攻关，以国家重点工程的方法进行了科技突破，形成了国家任务型科技政策的基矗而这个政策的制定过程也经历了几个不同的阶段，早期的科技投入方向由科学家主导，他们按照科学上的可能来确定攻关方向，只有少数有强大社会责任感的科学家会从社会整体利益，而不是个人利益和学科利益来思考研究方向；后来的科技政策由经济学家主导，重点关注科学上的可能与经济效益高回报的发展方向；近年来，人们逐渐意识到科技政策需要多方面的利益团体来参与制定：要由科学家指出技术上的可能，要由经济学家计算投入产出成本，要由代表人民的公共管理者、社会组织和人民自己共同来表述他们的诉求，寻求符合社会整体利益的科技发展和使用方式。重大的科技治理，需要全社会各方的参与。
人工智能技术来势凶猛，给我们留下的时间不多了。马斯克说还有十年二十年，是让许多人中年下岗的力量。这是一项比原子能有更广泛的影响力、对现有人类社会秩序有更大威胁的新技术。在我们推动人工智能创新，形成巨大的就业替代的时候，亟需对于未来的教育、就业，对社会财富分配和人们发展机会的分配，对社会新结构的管理，对于社会分层和社会和谐，对于各项涉及民生的公共政策等问题，进行广泛深入的讨论和更为严肃的思考。要识别具有颠覆性意义的AI工具，规范AI技术的开发和使用，要准备相应的法规和政策，提供替代补偿和社会结构调整，要让AI给人类真正带来“爱”。
注：本文是根据作者2019年11月30日在北京师范大学“推动人工智能和教育深度融合”会议上的发言和2020年1月5日在清华大学人工智能沙龙上的随机发言整理扩展而成的。
作者简介
蓝志勇，清华大学公共管理学院教授、博士生导师，北京市组织学习与城市治理创新研究中心主任。研究和教学领域包括政府改革与创新、信息技术与公共决策（可视化决策、智慧城市等）、城市治理等。有专著十余部，在国内外公共管理核心期刊和重要报刊媒体发表文章150余篇。
声明：本文经蓝志勇教授授权发布。
责编：魏奕萌
