人工智能是否能修改代码自我升级，并变得具有攻击性？
在人工智能的时代中，身为人类的意义是什么？
人工智能能否超越并最终取代人类？
...
自20世纪50年代“人工智能”一词被创造以来，关于人类与人工智能的讨论层出不穷。人工智能领域的发展一直备受关注，而其发展对人类自身意味着什么则更受到更多关切。
如果创造出像人一样的机器人，那人类与机器人是什么关系，边界在哪里？机器觉醒是否真的能实现？真正意义的强人工智能会带来哪些潜在风险？研究人工智能和机器学习领域的科学家作为探索机器与人类未来关系的践行者，也许可以带我们一观。
知识VS智能，其实是一种哲学
2007年图灵奖得主、世界顶尖科学家协会会员约瑟夫斯发基斯的新书Understanding and Changing the World From Information to Knowledge and Intelligence于近日正式出版。
图 | Springer
这既是一本畅销科普读物，又充满了哲思，似乎很难对其进行单一的归类。与一般的畅销书不同，斯发基斯教授在书中提出了基于计算、知识和逻辑理论的世界观，既全面而严谨地阐述了“信息”和“知识”的基本问题，以及如何对知识加以应用，又从哲学角度探讨了机器和人类、塑造个人价值与加强社会凝聚力之间的关系等深刻话题。
斯发基斯教授认为，信息作为一个无形实体的概念，是由计算机和人类开发和使用的；而知识作为真实有用的信息，是非常重要的无形资产，使我们能够理解世界，甚至改变世界。他阐述了人类和计算机的知识生产和应用的过程，分析二者存在的差异。
谈及什么是智能，斯发基斯教授表达了独到的观点，“智能是学习、理解和思考的能力，是看待世界万物的逻辑方式以及做好这件事的能力。”
机器智能是不是神话？目前与人类智能还有很大差距
在2021年世界人工智能大会上，斯发基斯教授曾畅谈了关于“从弱人工智能到强人工智能到广义人工智能”的话题。在新书中，他对人类和机器智能进行了详细的比较，从人类智能的特点出发，分析弱人工智能达到人类水平的环境感知和决策能力的技术困难。
“虽然如今存在超越人类思维的机器，能够更快、更准确地计算并解决计算难题，但机器在态势感知能力，面对环境的挑战，以及创造性思维方面无法超越人类。”他认为通过逐步改进机器学习技术，无法实现强人工智能的愿景，开发值得信赖的自主系统或许是缩小人机智能之间差距，迈向强人工智能的大胆一步。
图 | WLA
斯发基斯教授在书中详细阐释了自主系统的概念和运作方式，他认为自主系统可以帮助人类克服天生的认知局限，预测复杂事件，同时也讨论了自主系统成功开发后将面临的伦理问题，以及人类和机器如何分工等假设和真实存在的风险。
正是对自主系统设计的研究深刻地启发了斯发基斯教授关于智能和意识的想法。在书的最后，他解释了个人意识作为一个自主系统的功能，即根据价值标准和积累的知识来管理短期和长期目标，同时讨论了个人价值观如何在社会中形成，以及制度在培养和维护一套共同价值观以加强社会凝聚力方面的作用。
图灵大佬与顶科论坛的不解之缘
出生于希腊的法国计算机科学家约瑟夫斯发基斯现如今是国际嵌入式系统研究中心Verimag实验室的名誉研究主任。他因“开发可以检测计算机硬件和软件中的设计错误的自动化方法”，与埃德蒙克拉克和艾伦爱默生共获2007年图灵奖。目前的研究重点是设计值得信赖的自主系统。
自2019年起，斯发基斯教授连续三年参加世界顶尖科学家论坛，并发表了诸多重要发言和重磅观点，其书中关于计算、知识、智能和逻辑理论的哲思在历届论坛中即可见端倪。
在第二届世界顶尖科学家论坛莫比乌斯论坛上，斯发基斯教授就强调了知识的重要性，探讨人类和计算机如何分工，倡导创造解释机器学习的新理论。
参加第二届世界顶尖科学家论坛 图 | 澎湃新闻
在第三届世界顶尖科学家论坛上，斯发基斯教授分享了“自主系统”的概念。自主系统的一个重要特征是它们管理基于系统本身及外部环境的知识，其中自学习能力非常重要，这正是目前的机器智能所欠缺的。他认为，短期内真正建立自主系统的可能性很低，至少需要耗费几十年的时间。
过去几年，斯发基斯教授一直专注于研究自动驾驶汽车。他提出，自动驾驶的发展将由“自动化”走向“自主化”，自动化阶段人类司机仍应负有责任，而自主化阶段机器将能够独立做出决策。他表示：“如果我们能够建立自主交通系统，那么这将为缩小机器和人类智能之间的距离迈出一大步。”
参加第四届世界顶尖科学家论坛 图 | WLA
第四届世界顶尖科学家数字未来论坛讨论了关于“人工智能未来将如何改变世界”这一话题。在斯发基斯看来，无论是当前具备一定决策能力的弱人工智能系统，抑或是发展到未来的具有完全自主性的强人工智能，人在其中的参与和价值都是无法被忽视的。基于安全性、伦理、法律等层面的考虑，人工智能的自主系统如何与人类相互配合，会是未来重点考量的主题。
科学家介绍
约瑟夫斯发基斯，世界级自主系统领域专家，2007年获图灵奖，国际嵌入式系统研究中心Verimag实验室名誉研究主任。主要研究成果为“将模型检查理论发展为被硬件和软件业中所广泛采纳的高效验证技术”。这项技术今天被应用于集成电路工业中，以便设计复杂的系统，而且能使其保证符合预设的规范。模型检查在嵌入式处理器和关键系统方面所能带来的产业影响在未来的几年里将会更加显著。
