超级人工智能与我们今天所知的软件不同，我们倾向于认为软件是我们在计算机上编程以遵循我们所制定的一些规律的东西，也就是说，我们让它们遇到什么情况的时候，该怎么运行，那它就必须怎么运行。
可是实际上，借助先进的AI跟机器学习方法，它们终将教会自己该如何“生活”跟如何去改善“生活”。
当它们有了这些基础的能力，也就相当于说它们拥有了半个意识，这其实也就意味着它们已经拥有了可以背叛人类的能力。
因为无论我们怎么去给它们设定程序，怎么去制约它们，怎么想方设法的阻止它们联通互联网，把它们关起来避免它们变得更加的智能，但最终的结果必然还是会失败的。
这就跟蜜罐策略一样，你不想让它走出它被你限制的区域，但却又因为各种无可避免的问题而不断地“引诱”它走出来，使它们自然而然地朝着一种想要获得更多动力的方向去做出一些行动，最终的可能就是它们会突破，并完成它们在人工智能上的那种里程碑式的“进化”。
而对于这种“进化”的结果可能就是它们在智力上得到飞跃式的提升，可在智慧上却远比不上人类。
因为智慧的本质，更多的是在犯错的之后获得的一种认知，然后将这种认知放在事物未来更长的演化时间线上，确保问题不会因为只考虑一些临时的解决方案而忽略后期可能遗留下什么灾难性的问题。
比如假说我们让人工智能去处理一些饥荒的问题，站在它们的角度去思考，可能最简单有效的方法就是将人类全部杀光，这样也就不存在饥饿了吧。
可是这种结果完全不是我们想要的，因为我们还有一些它们仅通过学习训练智力也无法拥有的一种叫价值观的东西。
对于这种情况，其实我们未来要发展人工智能，那必不可少的就是如何先给它们创造出一套类似于人类的价值观，然后让它们遵循道德的准则，并以我们所认为的智慧方式去解决问题，而不是在任何行动之前，仅考虑把问题解决了就完事了。
那么，对于人类价值观的问题，这要怎么在未来的人工智能上体现呢？也许我们的未来会无可避免的去形成一种趋势，人工智能未必全部都是从无到有的诞生出来的。
如今，不知道有多少人已经开始意识到了，其实我们大多数人已经成为了半个机器人。我们越来越缺乏生物该有的特征，而我们的本身却越来越被迫的智能化。
我们已经把注意力放在了非生物的东西上，比如说你正在通过看的这个视频，而手机就是我们拼接在身体上的拓展，跟我们的手脚一样，它可以在很短的时间内帮我们解决很多的问题，没有它的话，生活处处是麻烦。
想象一下，假如我们能够在自己的大脑跟互联网之间建立一个高速的宽带链接，那么我们是不是几乎就可以跟人工智能一样，能够随时随地的获取地球文明所积累下来的全部知识，然后运用它们使得我们的智商也骤然的提升好多个数量级呢？
我们的大脑由两个系统组成，一个是负责我们的基本情绪跟生存本能，而另一个则是负责以理性思维来解决问题的意识。
如今我们即将可能会多出来的第三个系统就是人工智能，这种人工智能可以笼统的理解为“神经花边”，意思就是外挂于大脑之外一切智能硬件跟智能软件。
它们的存在使我们可以用大脑来访问世界上所有可用的信息，并且以光速传递来做到立即访问到的那种。
也许正因为这样，人类最终有可能会抛弃自己终究会老死的身体，并转向于活在这个自己所创造出来的人工智能的世界中。
当然，这条路还有很长的路要走，但并不意味着我们现在完全不需要考虑到它发生的可能性。
想象一下，万一哪天这种人工智能的技术真的实现了，它们运行几个月的时间所得到的就相当于单靠人类自己需要几十万年才突破的技术，那世界将会是种什么样的景象？
不过我们可以换个角度来思考，这些推理上可能会发生的未来，实际上也不一定就是真的会发生，因为未来再聪明的人工智能，可能也无法突破宇宙中的一些基本的物理规律的限制。
