新智元报道
来源：techtalks
编辑：雅新
【新智元导读】通用人工智能一直是人们对智能体未来发展前景的展望。当人工智能有类人的生命体征，智力和意识的特征时，我们是否思考过如何与之互动，去认知和接受它们。
你是否对拔下机器人的插头或关闭人工智能算法而感到难过？暂时不会。
但是，当我们的计算机变得比我们更聪明时，我们又如何呢？
关于通用人工智能后果的辩论几乎与AI的历史一样悠久。
大多数讨论都将人工智能的未来描述为像终结者那样的启示录或像Wall-E那样的乌托邦。
但是，鲜有人讨论，当人工智能体有类人的生命体征，智力和意识的特征时，我们将如何与之互动，去认知和接受它们。
萨格勒布经济与管理学院的科学家Borna Jalsenjak在最近发表的一篇文章中，讨论了超级智能的AI，以及生物体与人造生命体之间的类比。
这篇文章的的标题为，「The Artificial Intelligence Singularity: What It Is and What It Is Not」，收录在《深度学习基础指南》中。这是一本论文集，探讨了人工智能的不同阶段历史，科学和哲学方面。
《深度学习基础指南》 Springer
AI奇点何时会出现？
最先将「奇点」这一概念引入人工智能领域的是美国的未来学家 Raymond Kurzweil。在他的《奇点临近》《人工智能的未来》两本书中，将二者结合，他用「奇点」作为隐喻，描述的是，当人工智能的能力超越人类的某个时空阶段。
奇异性是有关通用AI的讨论中经常提到的一个术语，但我们在奇异性方面存在很多困惑和分歧。大多数科学家和哲学家都认为关键的一点是，这是AI系统变得比我们更智能的转折点。
AI奇点出现的的另一个重要方面是时间和速度：AI系统将达到可以不断重复和加速地自我完善的程度。
「更简洁地说，一旦有一种AI达到人类水平，并且AI可以创建稍微智能的AI，然后再创建更智能的AI，并且会像这样继续下去，直到出现一种比人类先进得多的AI。」Jalsenjak写道。
需要明确的是，我们今天拥有的人工智能技术，即狭窄的AI，距离实现这一壮举还差得很远。
Jalsenjak将当前的AI系统描述为「特定领域的AI」，比如只擅长制作汉堡的AI。与人类不同，这些系统只能学习或被教导如何执行特定任务，这就是为什么它们被称为狭窄AI。
这不是关于如何以及何时实现AGI的讨论。
这是一个不同的话题，也是许多辩论的焦点，大多数科学家认为，人类级人工智能至少需要几十年的时间。
Jalsenjack 表示，当我们真正实现时，无论是明天还是一个世纪，如何去定义AI和人类的身份？
在AI社区中，许多人都会将将机器视为人类，尤其是当它们具有智能的迹象时。虽然这显然是对当今技术的高估，Jalsenjack还提醒我们，通用人工智能不是必须复制人类的思想。
他在论文的脚注中写道，「即使有了先进的人工智能，也没有理由认为先进人工智能与人类智慧有相同的结构。」
人类与当前人工智能技术之间的最大区别之一是，人类是活着的生命体，但AI算法却并非如此。
Jalsenjak写道：「当今的技术发展不能让AI具备生命体征。但我们奇怪的是，是否会出现超级的AI，例如在关于奇异性的讨论中可以预测到这种超级智能，这值得一试。」
这种人造的生命会对我们如何认知AI并采取行动产生巨大影响。
具有怎样的生命体征可以说人工智能体是「活着的」？
Jalsenjak从哲学人类学的概念中汲取了想法，指出生物是可以自主行动并照顾自己和自己的物种。至少现在，无论是多么先进的机器，它们在这方面始终只能作为人类的延续而发挥作用。
生命有不同的层次，而且正如AI发展趋势所示，人工智能正在慢慢朝具有生命的体征靠近。
根据哲学人类学的观点，当有机体朝着目标发展时，生命的最初迹象就形成，在当今的目标驱动下的AI也同样具有。
Jalsenjak说，人工智能没有「意识到」其目标，并且漫不经心地压缩数字以达到似乎这一无关紧要的目标，因为我们认为植物和树木即使没有同样的意识也可以存活。
认为具有生命体征的的另一个关键因素是生物体能够有自我修复和改善自身的能力。它也应该生育并照顾后代。
这是我们在树木，昆虫，鸟类，哺乳动物，鱼类以及几乎所有我们认为活着的东西中看到的特征。自然选择和进化的规律迫使每个生物体能够学习和发展适应环境生存的技能，以确保物种的生存。
关于生育照顾后代，Jalsenjak提出，人工智能的繁殖并不一定与其他生物体一样。
机器不需要后代来确保物种的生存。AI可以解决材料劣化的问题，只需手头有足够的替换零件即可将故障零件更换为新零件。
关于自我完善能力，就更加微妙了。Jalsenjak指出，即使不同软件的自修改程度有所不同，但已经有能够自修改的软件。
当今的机器学习算法在一定程度上能够使其行为适应环境。他们将许多参数调整为从现实世界中收集的数据，并且随着环境的变化，可以在新信息上对它们进行重新训练。
比如冠状病毒大流行可能会干扰我们正常行为下进行训练的AI系统。
由于人们戴着口罩，面部识别算法不能够检测到人脸。而这些算法现在可以通过对戴口罩的脸部图像进行训练来重新调整其参数。
显然，与人类和高等动物的能力相比，这种适应水平微乎其微。
但是，理想的自我完善型AI可能会创造出全新的算法，从而带来根本性的改进。这就是所谓的「递归式的自我完善」，将导致更加智能的AI不断循环和加速完善。
今天，我们有一些像遗传算法和网格搜索的机制，可以改善机器学习算法的不可训练组件。但是它们带来的变更范围非常有限，并且仍然需要一定程度的开发人员的手动操作。你不能指望递归神经网络会通过许多突变而变成一个Transformer。
Jalsenjak指出，递归式自我完善将使AI有可能完全取代正在使用的算法，正是奇点出现所需要的。
Jalsenjak总结道，「通过类比及观察AI已有的特征，可以认为超级人工智能是活着的，说AI是人类的延续这一说法是无效的。它们将有自己的目标，也许还有自己的权利。人类将首次与至少与他们一样聪明，而且可能更加聪明的智能体共存于地球。」
你仍然可以在不感到内疚、自责的情况下关闭机器人的电源吗？
反思：AI自由意志，AI道德仍将是我们继续思考的问题
贾尔森贾克在论文的结尾承认，对人造生命体的反思还提出了许多其他问题。这里描述的关于生物的特征是否足以使某事物被认为是活着的，或者这仅仅是必要的条件？
Douglas Hofstadter在《我是一个奇怪的循环》中否认了这一观点。他认为个体的自我意识和思维是将其他生物，智能体与人类区分开的关键。
自由意志也是一个悬而未决的问题。Jalsenjak写道：目前尚不清楚未来的AI是否有自由意志的可能性。
最后，还有超级智能AI的道德问题。这是一个广泛的主题，包括AI应该具有的道德原则，人类对AI应当具有的道德原则，以及AI如何看待与人类的关系。
参考链接：
https://bdtechtalks.com/2020/06/29/artificial-intelligence-singularity/
