出品：放牛班的秘密花园
来源：卫报
编译：Sail2008
责任编辑：Sunnisky
电影《终结者》
人工智能的领军人物斯图尔特罗素表示，多数专家认为比人类更聪明的机器智能将于本世纪问世，最乐观的情况下，人工智能将在10年内超过人类智能。他认为这将对现实世界带来巨大的冲击，呼吁采取措施来监管该技术的研发。
加州大学伯克利分校的计算机科学教授斯图尔特罗素（Stuart Russell）是人工智能领域的领军人物，“可与人类共存的人工智能中心”(Center for Human-Compatible Artificial Intelligence)创始人。
1995年他与 Google 研究总监 Peter Norvig合著的《人工智能：一种现代方法》（Artificial Intelligence: A Modern Approach）是全球超千所大学选择的标准教科书。2019年他出版了新书《与人类共存：人工智能及其控制问题》（Human Compatible:Artificial intelligence and The problem of control），再次引发全球关注。
罗素教授将人工智能的进展与原子弹的研发相提并论，称专家们被自己在该领域取得的成就“吓坏了”。他表示，多数专家认为比人类更聪明的机器智能将于本世纪问世，他呼吁制定国际条约来监管该技术的研发。
他对《卫报》说：“人工智能社区尚未适应这一事实，即我们正在开始对现实世界带来巨大的冲击。在该领域的大部分时间里并不是这样的我们只是待在实验室里，搞搞研发，试图让研发的东西运行起来，但大多数都失败了。所以对现实世界的冲击这个问题根本不重要，因为我们必须迅速成长以便迎头赶上。”
从搜索引擎到银行，人工智能支撑着现代生活的方方面面，而图像识别和机器翻译的技术进步是近年来的关键进展之一。
斯图尔特罗素教授
罗素将在本周一主讲今年的BBC“里斯讲座”（Reith lectures），题目为“与人工智能共存”。他认为，随着拥有超级智能的超级AI被开发出来，需要采取紧急措施来确保人类能保持控制权。
“人工智能的设计采用了一种特殊方法和某种通用方法。我们在复杂的真实环境中使用这种系统时还不够谨慎。”
举例来说，要求人工智能尽快治愈癌症或许很危险。
“它可能会设法在整个人群中诱发肿瘤，目的是以我们所有人为小白鼠来并行进行数百万个实验，”罗素说。
“这是因为这是我们为其设定的目标的解决方案。我们只是忘了具体说明，你不能把人类当作小白鼠，你不能耗尽全世界的GDP来运行你的实验，你不能这样做，也不能那样做。”
罗素表示，今天的人工智能与《机械姬》影中描述的人工智能仍有很大差距，但机器智能超过人类智能的未来有可能成为现实。
电影《机械姬》
罗素说：“我认为在最乐观的情况下这需要10年，也可能需要几百年，但几乎所有的人工智能研究者都认为这将在本世纪发生。”
不过人们对此有个担忧，那就是机器无需在所有方面都比人类更聪明就能构成极大的风险。
“这类事情正在上演，”他说。“看看那些决定人们阅读什么和观看什么的社交媒体和算法，它们对我们的认知输入有极大的控制力。”
他认为，最终结局就是算法操纵用户，给他们洗脑，这样一来，在选择接触什么内容方面，他们的行为就变得更具可预测性，从而提高基于点击的收入。
人工智能研究者被自己的成功吓到了吗？“是的，我认为我们越来越害怕了，”罗素说。
他说：“这让我想起物理学中发生的一些事情：物理学家知道原子能的存在，他们能测量不同原子的质量，能计算出在不同类型的原子之间进行转换可以释放多少能量。”他指出，专家总是强调该想法只是理论上的，“而当结果出现时，他们却没有为此做好准备。”
他说将人工智能用在军事应用（比如小型杀伤性武器）上尤其令人担忧。“它们极易扩展，一辆卡车上能安装一百万个，打开车后部，一开火，它们就能摧毁整个城市，”罗素说。
波士顿动力机器狗等自主机器人引起罗素教授的担忧
罗素认为，人工智能的未来在于开发出一种机器，它知道真正的目标并不确定，人们的偏好也不确定，这意味着它们在做任何决定时，都必须像个管家一样与人类保持沟通。但想法很复杂，尤其是因为不同的人有不同的偏好，它们有时是相互冲突的，又并非一成不变。
罗素呼吁采取包括制定研究人员行为准则、立法和条约在内的措施，以确保人工智能系统的使用安全，对研究人员进行培训，以确保人工智能不容易受到种族偏见等问题的影响。他认为欧盟禁止机器模仿人类的立法应该在世界范围内被采纳。
罗素表示，他希望通过“里斯讲座”强调一点，未来会怎样是有选择的，让公众参与这些选择非常重要，因为这决定了他们能否从中受益。”
他认为人工智能取得下一步重大进展尚有待时日，但它不会仅仅停留在科幻作品上。
声明：著作权所有，转载需授权
Come on，给你的灵魂充充电
