“缺乏对集体性、不确定性和激励机制的关注,是当前对AI讨论中缺失的三个方面。”
9月5日,在Inclusion外滩大会开幕主论坛上,机器学习泰斗、美国“三院院士”迈克尔乔丹谈到AI的不确定性。他指出,当前AI系统很难表达它真正学到哪些知识,也没有能力表达它的确定。相较之下,人类在面对不确定性时表现出色,尤其是集体协作共同应对时。
迈克尔指出,仅仅将人类的智慧融入超级计算机是不够的,现代信息技术在医疗、交通、金融科技和商业领域的应用,需要集体性、去中心化的智能系统。
他指出,人类在集体协作时能够更好地应对不确定性,但如何让当前的AI系统也具备类似的集体协作能力,仍是一个未解的关键问题。
迈克尔表示,“激励机制”是市场经济和集体智能的关键因素,“AI拥有海量的数据,但有些不能生成价值,通过设计激励机制才能驱动AI智能体贡献和协作。”在他看来,微观经济学视角是当前AI研究的一个缺失。
迈克尔提出了“三层数据市场”模型,其中用户、平台和数据买家通过“出让数据”、“购买数据”、“提供服务”形成了闭环。他强调,数据购买者也就是企业可以结合“数据和服务”建立与用户的激励机制,从而为他们带来真正的价值。
对此,迈克尔援引了统计契约理论,这是一种结合了统计学和经济学的新型理论。在契约理论中,代理人拥有私有信息,而委托人通过激励机制形成了数据和服务相互促进的市场,维持了供需双方的利益平衡。
例如航空公司分商务舱和经济,航司能根据代理人的不同支付意愿提供不同价格,而不需要代理人透露其个人信息。
作为新兴工程领域,人工智能正通过大规模系统,以创新方式连接人类。它的发展类似于上世纪中叶化学工程和19世纪末电气工程的兴起,前者建立在化学、流体力学等领域,后者立于电磁学、光学等技术的基础上。
人工智能系统建立在过去人类300年的推理理念、算法理念和经济理念基础之上,需要以人类福祉为目标。迈克尔乔丹提醒道,“但人工智能正被置于那些未经深思熟虑的、朴素的旧式愿景之中,它的兴起和发展受到扭曲。”