展会信息港展会大全

《我这样的机器》:机器人世界里人的困境
来源:互联网   发布日期:2020-08-18 09:16:33   浏览:11394次  

导读:在今年上海书展期间,英国作家伊恩麦克尤恩的科幻人工智能题材小说《我这样的机器》由上海译文出版社首推简体中文版。 机器人这个问题在麦克尤恩的脑海里可谓萦绕已久。两年多以前他来中国,这一路随身带着的书稿就是《我这样的机器》。他和译者黄昱宁说,初...

在今年上海书展期间,英国作家伊恩麦克尤恩的科幻人工智能题材小说《我这样的机器》由上海译文出版社首推简体中文版。

“机器人”这个问题在麦克尤恩的脑海里可谓萦绕已久。两年多以前他来中国,这一路随身带着的书稿就是《我这样的机器》。他和译者黄昱宁说,初稿已经写完了,但要放一放,在来中国的路上想一想,等回到英国再修改一遍。在发表演讲或接受采访时,麦克尤恩也反复提到这部书稿,甚至说到《赎罪》刚开始的设定也是有机器人的。

8月16日,作家小白,作家黄昱宁与上海纽约大学教授、亚马逊上海人工智能研究院院长张峥做客上海朵云书院旗舰店,为读者献上一场文科生与理科生有关机器人,有关《我这样的机器》,有关人类的对话。

《我这样的机器》:机器人世界里人的困境

活动现场

小说设想了一种道德至上的机器人

在小说里,32岁的伦敦人查理爱上了楼上的邻居米兰达。查理不知道如何向米兰达表达感情,用继承的遗产买了一款新型人形机器人“亚当”,并希望这个机器人能成为某种联结象征。查理把“亚当”领回家后,可以对还是出厂设置的“亚当”进行各种个性化设置。查理完成了一半,另一半让米兰达勾眩两人就像同时收养了一个宠物,并顺理成章地进入了下一感情阶段。

张峥非常喜欢“出厂设置”这段。在他看来,机器人的设置与人的进化是很吻合的。“每个人都接受两份DNA,父亲的一个,母亲的一个。亚当出厂之后被查理设置,又被米兰达设置,这像是一个比喻,把一部分父母的DNA注入进去。我觉得麦克尤恩是一个非常热爱人类的人,他对这个本质抓得非常准确。某种意义上是一种致敬,非常有仪式感。”

小白称,牛津哲学家尼克博斯特罗姆(Nick Bostrom)专门研究机器人力学。在一本《超级智能》里,尼克专门有两章谈价值观植入、价值观加载的问题。“一个机器人造好了,它的学习能力比你强多了。你让它随便学习,可能发展出终结者那样的机器,人类的生存风险就出现了。所以你必须在学习能力之外也给机器人加载价值观。”

怎么加载呢?在这部小说里,麦克尤恩设想了一种道德至上的智能机器。比如亚当帮查理轻松操盘做投资,但却没有为查理赚回世界上所有的钱,因为它在决策中考虑了过量财富显然会带来身心两方面的危险,尤其是道德损害。

“到最后,查理、米兰达给亚当输入的东西和亚当最初被输入的价值观有了冲突。亚当既不听米兰达的,也不听查理的,因为它有更大的伦理目标和价值观,它最后做出来的事跟两个用户的意愿都不一样。”小白说,小说最后造成冲突的点在这里。

《我这样的机器》:机器人世界里人的困境

麦克尤恩

小说的背景设定,融合了过去、现实与未来

在时间上,《我这样的机器》故事发生在1982年,在那个平行世界的英国伦敦:彼时人工智能研究已经远远超过了我们当前的发展水平。在撒切尔夫人的领导下,英国在马岛战争中落败,举国哗然之际托尼本恩当选为英国首相。“人工智能之父”图灵也没有自杀,麦克尤恩给了图灵他应得的生命,而非受到审判、监禁、自杀。图灵得享高寿,活在世人的尊崇之中,他的作品创造了技术奇迹……

“1982年是一个过去的年代。他把一个在技术上应该发生在未来的故事设定在过去,所以我们打开这本故事会觉得非常奇怪,因为它里面有些东西你是熟悉的,是属于过去的,但是关于人工智能这方面又是完全超前的,不仅超那个时代的前,也超我们现在的前。”黄昱宁称,这是一个“很奇怪”的设定。

小白表示,他在谷歌图书词频上检索“Robot”(机器人)和“AI”(人工智能),看到这两个词在1980年代初异军突起,在整个1980年代形成一个高峰,到1990年代反而渐渐下落。最令人难忘的机器人电影就是此刻拍摄的1984年上映的《终结者》。

再反过来想,麦克尤恩在1980年代刚进入伦敦生活,出版了几本小说,开始创作剧本,与同道友好交往。于是,“智能仿真机器人”这样的热门话题不可避免地出现在他的日常生活中。

小白说,或许也正因为这样,麦克尤恩把《我这样的机器》的时代背景设定在了1980年代机器人、人工智能在他脑子里最初出现的年代。“我觉得这部小说带有他对自己的反思,对人类社会的反思,通过一个机器人的故事影射他的这一段看法。从这个角度来看,把它理解成某种作家对自己往昔记忆的追溯、某种秘密的‘自传体’,也不为过。”

《我这样的机器》:机器人世界里人的困境

小说最想表达的,还是人的困境

在小白看来,《我这样的机器》有两个特别精彩的地方,一是米兰达跟亚当上床,给查理戴了绿帽,二是当查理试图关掉亚当的电源,亚当阻止了他,而且把他的腕骨捏碎了。

“关掉电源”这一点引起了大家有关机器人自我意识的激烈探讨。在小说里,那一批机器人在自我学习后有十一位设法取消了开关,也有机器人选择了自杀。

黄昱宁想,无论是“跟人对着干,不让人关闭我”,还是“在人不想关闭我的时候,我自己就关闭了自己”,其实都是机器人自我意识的表现。在小说的最后,麦克尤恩以图灵之口说:“它们(指机器人)不理解我们,因为我们不理解自己。它们的学习程序无法处理我们,如果我们自己都不理解自己的大脑,我们怎么能设计它们的大脑?还指望它们能跟我们一起幸福呢?”

因此说到底,麦克尤恩在这部小说里最关心的还是人本身,最想表达的还是人的困境。

小白深以为然:“麦克尤恩这部小说确实是写人的事。只是说在写法上他把机器人这个条件放进了人类社会,放进了1980年代,但这批机器人身上发生的事情,都是我们人类自己的事情。出厂设定代表了人类所有最美好的期望,可就算是人类自己,也没有一个能做到。因为那些规则条款,根本经不起社会人群的人际摩擦。就像麦克尤恩小说中几乎所有人物一样,天性良善,却让一些细微的摩擦冲突愈演愈烈,直至不可收拾。小说中那些亚当夏娃们再一次证明了麦克尤恩的观点。它们很快就陷入意识崩溃,无法在人世生存,一个接一个自杀了。”

张峥也特别提到麦克尤恩在书里借图灵之口说的另一段话:“我们创造了一种有智能、有自我意识的机器,并将其推入我们这个不完美的世界。这种智能总体上是根据理性的原则来设计的,对他人温和友善,所以很快就会置身于纷至沓来的矛盾之中。我们自己与矛盾相伴,那清单长得都列不完。无数人死于我们已经知道如何治疗的疾玻无数人在物资充足的地方过着贫穷的生活。我们知道这是唯一的家园,却日复一日破坏着生物圈。我们知道核武器的结果是什么,却以核武器相互威胁。我们爱着生命,却听凭物种大规模灭绝。如此种种,还有种族屠杀、折磨、奴役、家庭凶杀、虐待儿童、校园枪击、强奸以及每日发生的无数罪行。我们生活中充满着这样的折磨,却毫不妨碍我们找到幸福,甚至爱。人造的心智可没有这么坚强……”

“《我这样的机器》好的地方在于它没有给你答案。假如我们把这本书看作《圣经》或者某一种指南,我觉得它是对英国文明的祭奠,立一块碑。”张峥如是说。


赞助本站

相关内容
AiLab云推荐
推荐内容
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港