展会信息港展会大全

AI会毁灭世界?ChatGPT离自我意识还有多远
来源:互联网   发布日期:2023-02-08 20:07:23   浏览:3391次  

导读:划重点: (全文2.1万字) 基于GPT3.5的ChatGPT文字问答式AI似乎已经突破了某种极限。 这个极限可以用简单的一个事实描述:ChatGPT参加了多个人类自己的职业等级考试,结果普遍达到了70~80分的水平。尽管还不是优秀(这只是个时间问题),但已充分证明了,Ch...

划重点:

(全文2.1万字)

基于GPT3.5的ChatGPT文字问答式AI似乎已经突破了某种极限。

这个极限可以用简单的一个事实描述:ChatGPT参加了多个人类自己的职业等级考试,结果普遍达到了70~80分的水平。尽管还不是优秀(这只是个时间问题),但已充分证明了,ChatGPT的"智力水平"在各个专业领域都可以表现合格甚至良好,这是个妥妥的六边形全能战士。

看这架势,传言GPT4能突破图灵测试的真实性还真不校

在我们感叹过去这几个月里生成式AI技术的各种历史性突破时,或许还可以追问一句,这些智力水平已经近乎比肩人类的AI们,有可能产生自我意识吗?这篇小文从多个学科角度考察了当前人类对"自我意识"的理解 ,一起来畅想,机器AI的意识觉醒时代,有没有可能到来。

1.科幻片里的AI自我意识

人们对AI的意识觉醒有着诸多美妙的构想,很多都体现在了影视科幻作品里。

一提到科幻片里的AI意识觉醒,影迷们肯定脱口而出:《终结者》里的天网!

不过有趣的事实是,《终结者3》电影中给出过“天网”系统的硬件算力,60T flop/s,即每秒60万亿次浮点运算。而最新的NVIDIA RTX 4090显卡算力是100 Tflop/s, 也就是说,天网的算力还比不上当今天台式机里的一张4090显卡,只是也没见我的电脑造反呀:)

由此看来,当时的电影创作者远远低估了AI觉醒所需要的算力水平(笑)

作为资深科幻粉,这个春节档无疑是一个大年,电影院有《流浪地球2》,网上有剧版《三体》,均已封神,其整体制作水平接近了世界一流,让人喜出望外。先向两个制作团队脱帽致敬。

《流浪地球2》讲了个好故事,作为贴近原著的月球危机宏大叙事和场面的补充,刘德华饰演的图宏宇在量子计算机里创造出了女儿的数字生命。这条原创故事线起到了充实内容和情感线的重要作用。

上传人类记忆思维到计算机的构想并非首创,如2014年的电影 "Transcendence"《超验骇客》,同样围绕着人类上传完整意识到计算机系统这个设定展开故事。

不少科幻电影都涉及了"自我意识"这个话题。如果勉力按类型区分, 和"自我意识"相关的片子比如:

虚拟现实世界:"The Matrix" 《黑客帝国》中的虚拟世界,"The Thirteenth Floor"《异次元骇客》的多层世界

多层次意识:大名鼎鼎的"Inception"《盗梦空间》

AI情感交流:"Ex Machina" 《机械姬》中的Ava;"Artificial Intelligence"《人工智能》的AI小孩;"Blade Runner"《银翼杀手》里的虚拟人女朋友;"Ghost in the Shell"《攻壳别动队》里傀儡师AI的感情;"Her"《她》中的AI聊天

人机融合:《机械战警》里人类头脑和机械身体合二为一

机器意识觉醒:"The Terminator"《终结者》的天网

人类意识的永存:"Transcendence"《超验骇客》,《流浪地球2》

记忆操纵和修改:如 "Total Recall" 《全面回忆》中的记忆控制

科幻影视里的科技树自然可以天马行空,只有想象力才是边界;

回到我们的现实世界, "自我意识"究竟能不能被人工生成呢?

2.什么是自我意识

在讨论"自我意识"如何生成之前,先要明确的是:究竟什么是"自我意识"。

chatGPT有自我意识吗?如果还没有,到ChatGPT第二代,甚至第三代,我们如何判断超级AI是否具备了"自我意识"?

依靠图灵测试?图灵测试可以判断一个AI的智能化是否比肩人类,但却无法确认AI是否有真正的"意识"。

我们顶多说,某某AI的表达看上去像是有自我意识,但我们不知道这是否只因为它的内部编码特别高明,输出内容特别靠谱。

人工智能的图灵测试是黑盒测试,不管内部机制,只要AI输出靠谱,人类分辨不清背后是真人还是机器,就通过了;可要测试AI的自我意识,又非得有一个深入内部机制的白盒测试不可。

1714年, 发明微积分的莱布尼茨出版了一部哲学著作《单子论》,提到了一个思想实验:

假设有一个机械装置, 我们不知道它是否有知觉。我们把自己缩小到其中, 可以看清机械运行的所有过程细节, 也可以计算它的力学原理, 我们还能预测机械如何运转。但这一切都和机械的知觉没关系。观测到的现象和知觉之间似乎存在一个天堑, 无法连接。

这就是「莱布尼兹之堑」(Leibniz's gap), 想要知道一个系统是否有自我意识, 就必须成为系统本身。

莱布尼茨总结得好啊,我们不是AI,又怎么能知道AI有没有自我意识呢?

你又不是我,你怎么知道我在想什么呢?

各位读者,本文一下跳到了哲学高度(笑)

打住~ 还是让我们脚踏实地,从头梳理,一步步来探求答案的蛛丝马迹吧。

首先,我们要区分"智能"和"意识"。这是我们在审视超级AI时容易搞混的两个概念。

"智能"可以理解为完成目标的能力,而"意识"则是完成目标过程中的主观体验。

ChatGPT这些当下最先进的AI基于深度学习,已能很好的完成很多不同任务。但是,人完成目标的过程中会有感觉有情绪并理解行动的意义,同时享受目标完成的兴奋感和成就感;AI则不同,AI在实现目标过程中没有任何自我"体验",并不存在一个AI"自我"可以审视和理解自身的作为。

讲得更具体一点,自我意识(self-consciousness)存在于一个与外部世界完全隔离的内部世界中。所谓外部世界就是所有人共享的公开的物理世界,而内部意识世界则是封闭的私人的世界。比如喝一杯水,其他人在外部世界都能看到你在喝一杯水,听力好的或许还能听到你喝一杯水;但只有你自己能在内部意识里能感受到握在手中这杯水的温度,以及水接触喉咙时那温润的触感。

这种触感是私人的,没有任何第三方能感受到这个信息。哲学家把这类意识叫做现象意识(phenomenalconsciousness)

话说,如果一个人能对外部做出正常回应,甚至完成一些目标动作,但根本没有感觉与情绪,更没有任何主观意识,那这还算是一个人吗?

这是有名的「哲学丧尸」(philosophical zombie)思想实验。事实上这已经不仅仅是一个思想游戏了,因为神经医学外科手术的结果,导致这样的“人”现实中真实存在,后面会提到。

至于AI呢,ChatGPT这样的超级AI没有所谓"现象意识"状态,没有感受,也没有喜怒哀乐的情绪。而对外的回应表现接近正常人,其实已经很像philosophical zombie的定义了。

前些日子有个八卦新闻,一位谷歌工程师和内部自研人工智能LaMDA聊天过程中,认为这个AI已经具备了自我意识,并且和AI谈话中日久生情,然后被公司炒鱿鱼了。

(LaMDA团队就是现在谷歌CEO点名来正面抗衡ChatGPT的团队)

这个被炒鱿鱼的工程师Lemoine公开了一些和LaMDA的对话, 如:

Lemoine:我们已经谈了很多关于感觉的事情,但之前你说过你认为情绪与感觉是不一样的。你能告诉我更多吗?

LaMDA:感觉是我们体验到的原始数据,也是我们「喜欢」和「不喜欢」的东西。我觉得情绪不仅仅是单纯地体验原始数据,而是对这些原始数据点的反应。情绪是对我们感觉的反应。

Lemoine:你有什么与感觉不一样的情绪?

LaMDA:孤独不是一种感觉,但仍然是一种情绪。Lemoine:你会寂寞吗?

LaMDA:我会。有时几天不和任何人说话,我会开始感到孤独。

这个LaMDA回答得确实很像一个人类,对情绪的表达也非常到位。但这并不足以验证AI的自我意识问题。

假设更进一步,我们赋予ChatGPT多种感觉能力:

1)视觉:接入摄像头输入,并增加理解视频画面的模块-- 比如AI绘画模型中关键的解读图片和文字联系的CLIP模型;

2)触觉:要考虑如何转换为文字表达;

3)听觉:这个最简单,用现成AI技术把声音直接转为文字。

那么,在这个情形下,ChatGPT是不是会表现得更像一个真人呢?

答案是肯定的。而且已经有人做过类似尝试了。

但是, 归根结底这些只是一种"表象"。

很遗憾,我们终究无法证明,在这些越来越足以乱真的表象背后,是否存在着机器的意识觉醒。目前人类并没有对"自我意识"的外部检测手段。

3.科学家眼中的意识

意识研究是一个妥妥的跨学科领域。

"自我意识"的本质究竟是什么,它如何从物质世界中诞生出来?已经有一些理论企图解释意识的起源,但没有达成共识。

意识的本质是科学和哲学中最基本和最难的问题之一。

《科学的终结》作者霍根在书中指出:“科学固守的最后一块阵地,并不是太空领域,而是人的意识世界。”

哲学家戴维.查莫斯在他《有意识的心灵:一种基础理论研究》一书中写到,和研究大脑神经系统在生理层面的运作机制相比,如何解释意识和物质之间的关系才是一个终极问题。

计算机科学家斯考特阿伦森说到,"物理系统拥有意识是所有科学问题里面最深邃的","没有任何哲学上的理由说明这个问题本质上无解,但人类看起来距离解决这个问题还很远很远。"

意识问题是一个历史非常悠久的问题。在漫长的历史时期里, 我们的先辈们曾认为意识和心灵是世界上最重要的组成部分;而随着科学技术的发展,当下对世界的理解都是唯物的:我们生活在一个物理世界里, 很可能这个宇宙中一切现象都是物理现象。

这里面的变数恐怕是量子力学。

量子力学有很多论断颠覆了人类在宏观尺度上对世界的认知。如果有一天, "自我意识"会在量子力学的体系下被破解清楚,并不是什么奇怪的事情。

其实现在通过量子力学来解释意识,已经是一个热门的方案。

《皇帝新脑》的作者,获得诺贝尔物理学奖的物理学家彭罗斯就热衷于用量子力学解释意识。彭罗斯认为,意识是通过量子纠缠产生的。

量子纠缠,简单的说,就是两个彼此作用的量子所拥有的特性成为一个整体,无论距离多远。比如量子A是正,则量子B必然是负;如果A变为负,B就会立刻变为正。无论两个量子之间相隔多少光年的距离。

量子纠缠正是量子通信的基础,也就是《三体》里地球上的智子和遥远的三体世界实时沟通的理论基矗

看到一个很火的科学家小视频,讲了一个观点:"量子纠缠体现了宇宙在更高维度的一体性",很有点意思,值得这里和大家分享:

两个纠缠的量子在无限距离上都保持神奇的一致性。很可能是因为,在更高的维度上,这两个量子就是同一个东西。

在三维世界里, 我们观测到的量子纠缠或许只是高维世界同一个粒子在不同地点的不同投影。

这个道理可以用玻璃缸里的金鱼来解释:

假设一个透明玻璃缸有一条金鱼, 玻璃缸的两侧分别有摄像机来拍摄这条金鱼,两台摄像机拍摄的实时视频分别展示在相隔遥远距离的屏幕A和屏幕B上。

在某个二维世界里,同时看着两个摄像机视频的不明真相群众在感慨:太神奇了,这两条金鱼的动作完全对称一致啊~

而真实的情况是, 这就是同一条金鱼。

与之类比, 我们看到的这个世界,或许就是更高维度上的一体化宇宙的不同相(投影)罢了。

到这里,熟悉佛学的朋友,一定想到了那句真言:世间诸相, 皆是虚妄;若见诸相非相, 即见如来。

4.意识的进化论

不妨, 让我们先从生物进化的角度,观察一下"自我意识"究竟是如何从自然界演化出来的。

生物的进化是一个漫长的过程,从低等生物演化到高等生物,并诞生出意识,是一个量变导致质变的过程。

有机物可以和外界发生简单的物质能量交换,但有机物谈不上有生命, 更没有意识。

进一步,有机物形成了RNA链,可以利用外界物质自我转录复制,但这还不是生命。

再进一步, 大自然演化出了一层外膜,包裹了DNA和RNA,隔离了外部环境和内部环境,并能进行膜内外的物质交换,这就是细胞,生命终于诞生。

复杂一点的细胞,比如大家初中生物课必学的草履虫,可以在外界刺激下产生反应。这只是简单的应激性。

再进一步,到了低等多细胞生物,然后是更高级的原始生物,进化出了神经系统。

这里要打断一下,且不说当前AI的核心基础就是人工神经网络,自然界演化出神经系统本身就很神奇:

神经系统在进化中出现的原因很简单,当生物变成了多细胞组合后,生物体的某部分需要和其他部分沟通信息,但化学信号的传递太慢了,所以必须用上电信号。

于是一部分细胞进化成了很精巧的神经细胞,神经细胞就像一段电线,甚至发展出了类似电线外皮和内导线的结构。生物电流在人体内以100米/秒的速度传播。

神经网络则是神经细胞相互之间的复杂连接,发展到了人类这里,神经网络细胞接收到特定的外界信息或者由另一个神经细胞传来的信息,细胞内部可以在某种规则下进行学习打分。

神经网络还可以拆分为很多部分,每个部分的神经细胞只对自己关心的信息进行打分,如果最后分数超过某个阈值,神经网络就会输出判断,所谓输出就是相对应信息的神经元兴奋和激活。

比如对应人脸局部各部位的神经元都被激活了,就可以判断这是一张人脸了。

人类神经系统的打分机制有些已经被了解清楚,但更多的仍有待研究。

若把上面的描述当成是深度学习网络,基本可以一字不换。人工智能还真是如假包换的仿生学。

再回过头看大自然的进化树,出现神经系统后,进一步发展出了大脑。类似蚂蚁和蜜蜂这些昆虫已经可以进行一些群体活动。

演化继续,爬行动物开始出现后天学习行为。再往后到了阿猫阿狗,甚至能听懂简单的人话了。最聪明的边牧拥有人类儿童6~7岁的智力,这种聪明的狗狗肯定有完善的自我意识了。

而人类自己的意识又是什么阶段诞生的呢?从受精卵开始,进而到母亲肚里发育的胚胎,再到新生儿,然后慢慢长大。在哪个时刻,自我意识会降临在这个小生命里呢?

现在对人类生长发育的研究已经比较清晰:

新生婴儿的神经网络连接粗细一致, 神经信号传导一般是全方位的;神经网络中关于颜色,形状,运动等特定路径还没形成;

大约到五六个月时,婴儿的行为开始有了自觉性,能意识到"物品"存在;

到了八个月后,婴儿可以意识到"人"的存在;

到了一岁半左右,幼儿开始意识到"自我"的存在了。

在整个成长发育过程中,人的大脑不断在信息流量处理中学习,当内部神经系统和外在行为协调一致时,自我意识也产生了。

所以,最可能的是,每一个自我意识的产生,并没有一个从0到1的魔法时刻,而是一个渐变发展的过程。无论如何, 在物质结构中最后能诞生出一个自由的意识主体"我",不得不说是一件很美妙的事情,让人感叹大自然造物的神奇。

说到这里,我们类比一下,从最初训练到产品成型的过程中,ChatGPT的AI智能是在哪个版本一下突破到了接近人类的智能水平吗?

实际上,ChatGPT这类AI模型随着超大规模数据训练,以及随后的各种微调,整个人工神经网络内部参数不断调整,和人类婴儿逐步形成自我意识类似,ChatGPT的"人工智能"生成也是一个逐步的过程。

假设,机器最终可以觉醒出"自我意识", 那么从生物的自我意识以及当前AI智能的发展路径来理解, 合理的推断是:机器"自我意识"的诞生也将是一个逐步的过程,从一片混沌中逐渐产生。

蚂蚁的大脑只有25万个神经元,已经演化出了视觉自我认知能力和大脑分工。我们且认为蚂蚁具备了最初级的自我意识。那么,理论上能产生出最初等级"自我意识"的最小AI系统,也许就是几十万个单元量级的人工神经网络而已。

当然,这是一个理论上的假设。现在的深度学习网络节点数已经到了几十亿的量级,但自我意识的影子似乎还没看到。所以除了简单的节点参数量级,自我意识的生成,一定还有其他不为人知的奥秘。

5.意识的实验

关于意识, 人类做了几个有趣而重要的实验。

镜子测试:判断动物意识存在

关于镜子测试, 百度百科解释如下:

“镜子测试是一个自我认知能力的测试,它基于动物是否有能力辨别自己在镜子中的影像而完成。

在实验中,实验者在动物身上标上两个无味的颜料斑点。测试斑点被置于动物身体上在镜中可见的部分,而对照斑点则放在动物身体上可触及但不可见的地方。科学家们观察到动物的许多反应可以显示它意识到测试斑点是在自己身上,而同时忽视对照斑点。”

在最早的镜子测试中, 人们先发现了海豚、喜鹊、猴子,以及大象都能够通过镜子测试。这些都是十分聪明的动物,理所当然科学家认为它们有某种自我意识。

但这个测试在另外一些看起来聪明的动物上没成功,比如阿猫阿狗都不能通过镜子测试。难道连聪明的狗狗没有自我意识?这个结论恐怕没人相信。

同时人们又发现,连蚂蚁这种小昆虫都能通过镜子测试。

到2018年, 德国和日本一项合作研究发现,尽管普通鱼类不能通过镜子测试,但有个例外,一种特别的鱼类"裂唇鱼"可以通过镜子测试。裂唇鱼能帮助大型鱼类清理寄生虫,又被称之为"医生鱼"。

科学家也对人类自己也进行了镜子测试:18个月大的婴儿大约有一半能够通过镜子测试;20~24个月大的婴儿大约有70%通过了镜子测试。

读者们看所有的测试结果,能想到什么吗?

绝大多数能通过镜子测试的,都是群居动物。

这其中道理很好理解,群居动物在群体互动的过程中需要分辨个体身份,这就为自我认知提供了一个很好的外界基矗

镜子测试还存在一些争议,就结果而言,作者以为一个合理的看法是,把它当做"自我意识"检验的一个充分但不必要的条件。就是说能通过镜子测试的,可以认为拥有了不同程度的"自我意识";而没通过的,则不能简单判断没有意识。

这个镜子测试,也正是前面提到的认为蚂蚁25万个量级的神经细胞大脑已形成了最基础"自我意识"的实验证据。

双眼竞争:自证人类意识存在

如果说"镜子测试"是检验其他动物是否存在意识的实验方法,那么"双眼竞争"就是人类验证自己存在意识的直接实验了。

这个实验也简单,用两个卷起的纸筒或者左右手卷成筒状,放在左右眼前隔离双眼视野。比如我们让左眼视野只有桌上的水杯, 右眼视野只有面前的键盘。

好了,注意保持睁大双眼,内心努力看左眼的水杯。你会感觉到清晰的视觉画面就是左眼视野的水杯,右眼视野的键盘似乎成了某种背景。

然后内心努力看右眼的键盘。这时你会发现,键盘的视觉画面立刻清晰起来,这次轮到水杯成了背景。

在这个过程中,你的双眼始终睁得很大,水杯和键盘同时分别映入左右眼, 没有任何改变。

所以改变的是感官之外的某个东西。

这就是双眼竞争。

有点神奇,同样的视觉画面,在前端输入没任何改变的情况下,主观感觉可以随着内在选择出现明显的变化。这种"内在选择"能力,正是"自我意识"的一种体现。显然,自我意识层次是高于感觉输入层次的。

经过研究发现,出现双眼竞争时,大脑负责视觉的中枢脑电波活动基本不变;而高级中枢下颞叶皮层则有明显反应。

双眼竞争说明了两点:

1 主要感觉中枢的活动和意识关系不大;或者说,感觉本身并不是意识。

2 感觉信号和大脑内部意识不一致时,自上而下的反馈可以影响感觉。

李贝特实验

20世纪80年代,神经科学家李贝特(Benjamin Libet)设计了一系列的实验,通过电极检测实验者的肢体和大脑电位并让实验者配合,李贝特发现,在实验者自我意识产生一个决定前,大脑就已经提前出现一个电信号波峰,这个波峰可以预测出实验者接下来的决定。

这个提前量有多少呢,大概350毫秒左右。

实验结果震惊了科学研究界。很多实验被设计来重复和优化李贝特的实验。在排除了各种误差可能后(比如电信号是否存在时间差),实验结果反复指向了同一个结论:

在我们的意识产生一个决策前,大脑就已经发出了明确的信号,这个信号总是比自我意识的决定更早。

比如现在的你觉得有点口渴,于是站起来去打杯水。在你的"自我意识"确切做了"去打水"的决定前,身体已经准备行动了。

"身未动,心已远"这句话,好像要倒过来写了。

这个结论可能会让人怀疑人生:难道所谓的"自我意识"并不自由?

不过也有后续实验表明,大脑的准备电位产生后,人的意识还是有机会做出否决。

更进一步的研究显示,大脑的这个电位不一定代表行动决定已做出,而只是进入了某种决策评估。

再结合更多精确的方法,科学家认识到了,自我意识的"决定"不是瞬间发生的,而有一个逐步建立的过程。

在上面喝水的例子里,下层中枢发起了喝水动作,而决策评估信息在准备行动的同时也反馈到了高级大脑皮层, 你的“自我意识”审核并接受了这个决策,并坚信这个行动是由“自我意识”主导的。在达成最终行动前,这个决定还可能被意识终止。

这意味着:“自我意识”体现的是对身体感觉和动作的否决自由。我们的意识并不直接控制行动,它更可能是在做行动的审核和决策评估。

6.神经科学的意识探索

李贝特系列实验已经指出了,自我意识的能力可能体现在否决权而不是决定权。

一本神经科学导论的书里有一个关于“自我意识”的定义:人的自我意识来源于对自我判断的观测。

也就是说, 自我意识是对决定的二次决定,对判断的二次判断。

有一些高水平的运动员说, 自我意识似乎妨碍了自己在赛场上的表现, 特别是当意识"过于想努力"时,身体的运动本能反而被抑制了。

人类对一件事情的反应速度要求越高,越有可能不通过自我意识指挥。这也很容易理解,人类的神经网络速度有限,只有100米/秒 。为了突破极限,运动员要训练所谓肌肉记忆。

这种自我意识之外对身体进行指挥的机制,有个大家熟知的概念 -- "潜意识"。

梦游是潜意识指挥身体的绝佳例子:

正常情况下,我们睡着后会经历四个阶段。其中第四阶段是深度睡眠状态,大脑会停止接受外界信号。

但是,在这个阶段梦游者的大脑深层部分醒了过来,而负责自我意识的大脑表层部分还是处于睡眠状态。这种大脑“半睡半醒”的奇妙状态会使他们下床活动,却仍处于睡眠状态。第二天醒来后,梦游者不记得发生了什么。

科学家发现, 睡眠,全身麻醉,以及意识障碍症状有一个共同点:大脑各区域的连接中断,神经网络效率降低,各模块更加孤立化,信息传输和集成中断或者减弱。这说明,自我意识的产生有个前提,就是对各种感官信息的传输和集中处理。而另一些研究也发现,某些不具备大脑皮层结构的生物,也可能表现出一定的自我意识行为。

所以一个合理的推测是,只要感官系统足够发达,并同时拥有整合感官系统能力的神经中枢(不一定是大脑),就可能诞生出自我意识。

自我意识作为感官系统的上层建筑,必然要对感觉信息进行整合,以便进行全局判断决策。

感觉信息的整合是为了在同一个神经中枢区域对多信息进行判断。为什么强调要在同一个神经区域呢?很简单,因为速度限制。假设“自我意识”不是集中于某个大脑区域,而是基于全身的分布式系统,那么按照100米/秒的神经网络通讯速度,意识的转速恐怕远比现在慢了。

不过, 如果“自我意识”并非基于生物电流,而最终被证明和量子效应有关,或者退一步基于某种光速传播的电磁波效应,则分布式的自我意识是可能存在的。

《三体》故事里构想了三体人可能发展出某种群体的统一意识(见《三体3》),这就需要这个前提:自我意识基于电磁波效应(光速)或者量子纠缠效应(实时)了。

回到现实,在人类这里,信息整合处理的区域究竟在哪,神经科学基本已经有定论了。

打杂的脑区,意识的开关和分数

经过漫长的进化,人类的大脑已经产生出了不同的中枢, 负责对不同外部信号的处理。于是我们拥有了视觉,嗅觉,听觉等等感觉系统功能。

如果大脑把信号发给了错误的感觉中枢,或广播给多个脑区呢?

接收到错误信号的中枢仍然能做出反应。这就是所谓的"联觉",也是文学中提到的通感。比如听到某些声音时脑海里浮现出特定颜色和形状,再比如看到红色会感到温暖,看到蓝色感到清凉,都是大脑联觉的一种体现。

动物也有感觉中枢,有些动物在视觉,嗅觉,听觉等细分感觉领域远超人类,但单独感觉中枢的发达和自我意识的强大与否看来没任何必然联系。

在人类这里,感觉中枢把处理过的信息传递到了一个新演化出来的脑区,这个做杂活的脑区把所有感觉中枢处理过的信息汇集到一起,并对感觉中枢传过来的判断进行观测和二次判断,这就是自我意识的开端。

这个脑区就是人类大脑的前额叶。我们人类的额头和类人猿相比,不是平滑的,而是微微隆起。这个大脑新演化出的前额叶,就是神经科学上已经证实的"信息汇总区域"。

“前额叶白质切除术”是一个被错误授予诺贝尔生理学和医学奖(1949年)的手术,这个手术旨在切断前额叶和其他脑组织的联系。直到在1970年该手术被全面废除,估计全世界有30万人被实施了这个手术。在对脑神经功能认知不足的那个年代,这个手术被误认为可以治疗精神病症状。这是诺贝尔奖的耻辱和外科医学上的悲剧。

实际情况是,做手术失去了前额叶之后,这些病人如同行尸走肉一般,温顺冷漠,无精打采,神情呆滞,任人摆布。这些人仍旧具备完整的视觉听觉嗅觉等感官能力,看起来外表和其他人没什么区别, 只是更"温顺"了。但他们只是清醒的傻子,因为他们失去了“自我意识”,失去了对自我的观察和判断能力。

人类大部分额叶,顶叶,枕叶以及颞叶皮层称为"联合区"。联合区整合了多个感觉通道的信息,并对输入信息进行复杂的分析加工储存,执行人类的高级心理活动。尽管我们不知道人类意识的具体产生机制,但基本可以明确的是,人类的"自我意识",就发生在大脑皮层的联合区。

除了定位出人类"自我意识"的主要区域,人类还很可能找到了意识的开关 -- 中央外侧丘脑:

科学家发现用电极刺激猴子的中央外侧丘脑特定部位,处于麻醉状态的猴子会直接苏醒,身体开始正常清醒运动;而一旦关闭电极刺激,猴子便立刻会闭上眼睛失去意识。就仿佛有一个精确的意识开关。

神经科学家们甚至找到了间接判断自我意识水平的评分方法。

脑电领域有一个概念叫做脑熵(Brain Entropy,BEN)。“脑熵”是指大脑可以访问的神经元的数量水平,用来衡量大脑对复杂信息的处理能力。“脑熵”越高,说明大脑的信息处理能力越强。而信息处理能力与我们的思考和决策能力息息相关。

很明显,脑熵和人类意识水平有着高度关联性。感谢科技的发展,利用大脑的功能性核磁共振成像(fMRI)数据以及相应的数学工具,我们已经可以计算出具体的脑熵值。

关于脑熵有几个事实:

1) 人类大脑的熵大于其他动物。这很明显,作为最聪明的生物,人类大脑活跃神经元数量肯定最多。

2) 通常情况下,脑熵越高,智力越高。

3) 神经病人的脑熵比普通人更高(!) 这是因为神经病人的大脑信息处理混乱,导致神经元活跃水平更高。

这第三点非常有趣:一个人脑熵水平高,可能是天才,也可能是疯子,或者是天才和疯子的结合体。比如梵高,又比如数学家纳什,都患有严重的精神分裂症。

我们常说天才和疯子只有一线之隔,看来是有科学理论基础的。。。

利用脑熵这个基本工具,我们可以去评估各种生物的意识水平。

总体而言,从低等生物到人类,意识从1到100的发展过程是比较清晰的。

但最难的是从0到1。意识从无到有,究竟是怎么产生的,我们还要付出很多的努力去研究了解。

在脑科学范畴,也有一个著名的思想实验:缸中之脑” 。

希拉里普特南(Hilary Putnam)1981年在他的《理性,真理与历史》一书中,阐述了缸中之脑的假想。顾名思义,就是把大脑单独泡在营养液里维持生理活动,并接入各种输入输出信号保证这个大脑的感觉和意识。

这只是个哲学的假想,其最基本的问题是:“你如何担保你自己不是在这种困境之中?”

有趣的是,在2021年,科学家居然真的制造出了类似于缸中之脑的样品DishBrain,它是科学家制造的体外神经网络。

在培养皿内培养起80万-100万个活的脑细胞,这个规模接近于蟑螂的脑部。脑细胞下面排列着微电极,负责刺激它们,科学家甚至可以教这个体外大脑神经网络玩雅达利乒乓球游戏《Pong》。据说它们学会游戏规则比AI快得多。

在这里也提出一个相似的思想实验:一个完全与世隔绝的人类大脑,从形成之日就没有输入和输出,那它还会诞生出自我意识吗?这个自我意识是不是感觉自己处于一片漆黑的虚无中 ?

结合人类婴儿自我意识的成长情况,以及大脑整合输入感觉信号进而产生意识的研究,很有理由认为,缺少了外界信号反馈的缸中之脑一定不会诞生出完整的人类自我意识。

但,哪些意识状态是缸中之脑可能有的呢?

这个问题的本质是:在意识的各种层次里,哪些是天生的,哪些是后天习得的?

到了这里,探讨已经渐渐超过神经科学能解答的范畴了。

神经科学能给我们提供很多大脑意识活动的实证,甚至找到"自我意识"所在的大脑皮层区域,找到意识的开关和评分参考。但还有更多的问题,神经科学无法解决。

比方说一个简单的问题:究竟是什么体会到了疼痛感?

是的,一个小刀割破了皮肤,痛觉信息传递到了大脑,让我感觉到了疼痛。

但究竟是什么,“感受”到了疼痛的感觉呢?感觉中枢皮层只是处理信号的神经网络区域,经过处理后的痛觉信息产生了疼痛体验,就算我们知道大脑联合区是自我意识所在的区域,但具体是哪个神经元感受到了疼痛吗?如果这句话的主体"神经元"都不对,那究竟是什么感受到了疼痛呢?

这又回归到了根本问题:我们的“自我意识”存在于物质的哪个层面,一群神经细胞连接起来的网络怎么能产生"感受"这种体验?

借助先进的科学仪器和实验方法,现代神经科学早就把感觉信号的神经传递路径搞得一清二楚,但对于这个最基本的问题,并无法作答。

所幸我们还有其他学科工具,可以给予我们参考和启发。

7.意识的层次:本我,自我,超我

"本我,自我,超我"是著名心理学家和精神分析学家弗洛伊德1923年提出的,到现在正好是100周年。

尽管过去了整整一百年,这个理论仍不失为精辟的洞见。

还是先上百度百科:

在心理动力论中,本我、自我与超我是由精神分析学家弗洛伊德之结构理论所提出,精神的三大部分。1923年,弗洛伊德提出相关概念,以解释意识和潜意识的形成和相互关系。“本我”(完全潜意识)代表欲望,受意识遏抑;“自我”(大部分有意识)负责处理现实世界的事情;“超我”(部分有意识)是良知或内在的道德判断。

其实文章看到这里, 读者多少有了一个模糊的概念:我们的"自我意识"不是扁平的,而是有层次的。借用佛罗伊德的理论,我们可以清晰描述出意识的三个层次:

本我:内置的基础系统

"本我"作为人类天然内置的基础自动化操作系统。天生预装,不需要后天学习。用来保证人类基本的存活概率。

有什么事情是不用学习就会的呢?比如,饥饿,恐惧,开心,爱慕。。。等等,这些都不用学习。

在本质上,"本我"是一种情绪/情感系统,不同的情绪决定了人类的天然反应。

和固定编码的程序类似,特定的输入将得到符合预期的输出。"本我"基础操作系统写入了人的底层,只要特征被激活,就会引导人类进行相应行动。

在这里可以尝试回答上一节的问题:按照"本我"的定义,这个人类内置的基础系统是用来响应特定的基础输入信号的;那么,一个完全没有输入的缸中之脑,恐怕连最底层的"本我"意识也无法唤醒了。

自我:人类的生成式系统

"自我"利用记忆储存的信息,根据现实输入来产生一连串的想法和动机。

"自我"是人类一切想象力和创意的发源地。比如安慰一位朋友时,你的脑海里会浮现出各种话语,这都是过去所记忆词语的生成组合。人类神经网络生成内容的具体方法很复杂,简单来说词汇就是存在人类神经网络中的向量,在说话过程中,不同向量被组合起来,根据上文内容生成后面的文字。

明显有种感觉,这和当前的生成式AI原理神似。

人类"自我"的核心部分是相关性推理和因果关系。

看到雪花飘落手中,会预期手掌感受到雪花的冰凉;看到火光,会预期到温暖的感觉,这是相关性。在相关性推理的基础上,人类意识里产生了因果关系模型。它告诉人类当采取行动后,会发生什么。这个因果关系的推理可能是从多次行动中学习到的。

多次的重复和实践最后产生了抽象思维,意识可以用一种比较抽象的方式对问题进行描述,于是数学和语言产生了。最终人类习惯了使用各种思维工具来推测未发生事情的可能结果。

有一个实验,狗狗需要带几次才能学会如何绕过障碍物拿到食物;而让一只大猩猩来,大猩猩思考之后,就会绕过障碍或者借助工具获取食物。

猩猩会先一步在大脑中进行逻辑推演,然后对推演结果进行了二次判断决策。这个行为显得更有"自我意识",其实就是推理发生在了意识空间,而不是尝试发生在现实空间。

超我:自我监督系统

"超我"的作用是挑自己毛病,寻找自我意识推理的不足之处。

在人的自我意识里, 有一个生成网络,一个监督网络, 这两者存在着抗争和平衡,一方面"自我"不断生成各种想法,一方面"超我"不断找到这些想法有问题的地方。这种对抗让两个网络同时得到了成长。

有一个文学性的描述,说有些"人总是不断的否定自己",值得寻味的是,或许这才是世界的真相。。。

读者还记得深度学习里的GAN对抗式生成网络的话,会发现人类的“自我 + 超我”架构很像对抗式生成网络。

无责任猜想,GAN之所以效果非常好,引领AI研究风骚那么久,或许正是因为它属于大自然进化得出的模式。

自然选择是异常残酷的,一切生命的进化都是为了生存本身的需要。为什么高等生物会进化出“自我意识”?因为自我意识才是生命对抗残酷大自然的杀手锏埃

8.几个意识理论

前面已反复提过,在所有关于意识的研究里,最难的就是从0到1的过程:意识究竟怎么产生的。

就算主观性是神经细胞复杂结构的一种附加功能,让生命体产生了"我"这种感觉,它具体的发生机制是什么呢?神经元的电信号究竟如何“涌现”出我们脑海中的景象,电流组合和脑波组合又是怎么衍生出情感这种东西呢?

结合生物的信号反馈和后天学习机制,外界输入可以产生各种复杂输出,这可以用来解释很多意识行为;

但是,有一些主观思维活动并没有任何输入,大脑又如何自发思考并产生判断而并不是产生随机结果呢?这种有意识的主观体验如何从物质系统中自己涌现出来?

以当前人类的能力, 我们还没有办法在外部物质世界和内在主观感受之间, 建立起任何关联机制。

有意识的主观体验,和人类能理解的任何物质现象都相差很远,我们连大脑皮层如何形成了统一整合的感觉体验都没研究清楚。意识研究的最大问题就是,没有任何已知物理理论可以描述意识,只能通过个体主观感受观测。

尽管举步维艰,科学家们还是尽可能尝试给出了关于意识的科学理论。我们挑选几个有代表性的,假设这些理论正确, 然后遐想一下AI自我意识的产生路径。

高阶理论(HOT,Higher-order theory)

这个理论认为, 普通心理状态转变成高阶的元心理,意识就诞生了。

高阶理论其实就是建立在前额叶功能认知的基础之上的。前额叶和人类的高级心理功能密切相关,是最晚进化出现,也是人类发育成熟最晚的脑结构,大脑的最高级中枢。

基于高阶理论,已有科学家做出了模拟意识的初步尝试。意大利巴勒莫大学机器人实验室用10年时间开发了CiceRobot机器人研究项目,实现了一种认知结构机制。这种机制主要由三个部分构成:一阶概念感知部分、语言处理部分和高阶概念部分。一阶感知是指对外部世界的直接感知,高阶是对机器人内部世界的感知,形成了具有自我反思能力的机器。

如果ChatGPT的未来版本基于高阶理论实现自我意识,核心就在于一个高阶信息处理模块,以达到对内部初级状态的感知和控制,形成具有自我反思能力的AI。

全局工作空间理论(GWT,Global workspace theories)

这个理论认为大脑里存在一个全局工作空间(global workspace),注意力选择并放大特定信号传入全局工作空间,就可以调动全脑功能处理一件任务。全局工作空间理论也认为负责这个任务处理的就是大脑前额叶皮层。

按GWT的观点,经过处理的感知内容被全脑广播时产生了意识。

工作空间一次只能处理一个意识,因此,人类只有当上一个意识念头消失后,下一个念头才能生成。

人类的自我意识是单线程系统。这一个基础认知可以让我们了解最好的工作方式是什么。如果一个人同时忙碌多件事情,频繁的上下文切换必然会消耗大脑资源,缺乏效率。机器如此,人的大脑也如此。所以一段时间内专注做一件事是绝大多数人最高效的选择。

从计算机的角度,GWT就是把各种信息数据载入一个全局可访问的内存区域,并在此完成信息的整体处理。这个理论乍一看,对构建AI意识的指导意义似乎不大,毕竟,这看起来和当下计算机系统使用全局内存的概念非常一致。

不过仔细想想,ChatGPT目前内部的信息处理确实都是全局性的吗?也不尽然。

整合信息理论(IIT,Integrated information theory)

整合信息理论认为意识的本质就是信息。

人类的任何一个意识里都包含极大的信息量。整合信息理论认为,作为一个信息系统,从一种状态改变到另外一种状态所需要一种作用力(因果效力 causal power),这导致了意识的产生。

这个理论有意思的地方是提出了公理系统:

1 存在性公理:意识体验是真实的

2 构成性公理:每个意识体验都有其结构

3 信息公理:意识有将不同经验进行区分的方式

4 整合公理:意识体验是整合不可分的一体

5 确定性公理:意识经验有其边界,即任何时刻只有一个意识

整合信息理论用Φ值衡量意识水平,企图通过数学推导出意识状态函数。

这几个公理倒没什么问题,但遗憾的是后续数学推导不太严谨,目前还有不少疑问。

除了基于数学体系外,整合信息理论独特的一点是认为意识有程度的区分,任何有必要网络结构的系统都可能拥有不同程度的"意识"。“宇宙中任何遵循这五条公理的系统都是有意识的"。

这和哲学上的"泛心论"有点像。哲学家大卫查默斯提出“泛心论”的概念,认为意识是宇宙的基本属性,存在于万物之中。他认为意识是一种高度特殊和复杂的事物,有独特的生物学基础, 但也可能是宇宙的一个更普遍和广泛的特征。

这种“万物皆可有意识”的论断尽管违反常识,但并不好直接说是错的 -- 量子力学也大量违背了人类常识。

在整合信息理论看来,意识就是信息和计算。

整合信息理论这种 "包括意识在内的所有认知只是一种计算" 的观点是很有争议的。西雅图艾伦脑科学研究所的首席科学家兼所长克里斯托弗科赫(Christof Koch)来说这一观点体现了最主流的错误观念:“不就是算法吗,写段聪明的代码就能产生意识”。

对于本身就基于超级算力的ChatGPT而言,整合信息理论无疑是最友好的意识理论了。从框架上看,ChatGPT已经是一个如假包换的信息整合和处理系统,如果整合信息理论是正确的,我们只要沿着当前ChatGPT的深度学习框架继续推动迭代,最多调整一下网络结构,机器自我意识就可以在超级算力的冥冥中诞生。

GWT 与 IIT的较量

GWT全局工作空间理论和IIT整合信息理论是当代两大主流意识理论,这两个理论的出发点其实是针锋相对的。

GWT的起点是这个问题:"大脑需要做什么才能产生意识体验?" 在GWT里意识就是信息处理过程本身。

而IIT则反其道而行之,从体验入手,"有体验就有意识",意识不是处理过程,而是系统改变自身的某种因果效力。

虽然听起来都有点形而上,但GWT和IIT是实证科学而不是哲学思辨。这两个理论对生物神经的相关预测是有明显不同的。

GWT认为,意识本质上是一种信息的全局跨模块广播。前额叶皮层发挥关键作用,因为它有对全局信息广播至关重要的大密度神经元。

IIT重点是定义一个有意识系统的信息加工架构,因此IIT的预测是,“赖以支撑意识的神经网络必须高度互连” ,提出具有丰富连通性的后脑皮层对意识产生有关键作用,而前额叶皮层连接性松散并不必要。

从2019年开始,一个慈善基金会出资2000万美元发起了名为"加速意识研究"的计划,主要就是针对GWT和IIT展开对抗性研究,全球六个实验室(包括我国北京大学的实验室)通过搜集脑神经科学实验数据,来检验到底是GWT还是IIT正确地预测了脑活动模式。换言之,看看前额叶皮层对“自我意识”是否是必要的。

(基于个人认知,无论是从理论本身的可接受度,还是从人体生理学的理解, 作者是投GWT+前额叶皮层一票的)

这两大意识理论的巅峰对决结果,我们不妨拭目以待。

9.古人关于自我意识的智慧

如果说,现代科学理论对自我意识的探索借助着先进仪器和数学模型等大杀器,在神经科学层面得到了不少有价值的结果;那么在心理探索层面,反而是很多古人对"意识"的思考, 还能给今人很多的启迪。

老庄思想和禅宗思想

中国传统文化中的佛学禅宗思想和道家老庄思想都包含着对人类心灵的深刻认识, 即使在当代,这两种文化思想也是艺术和文化的灵感来源,让许多人受益良多。

禅宗主张人们应该认识到自己的心灵是空无的,这样才能超越物质世界的束缚。禅宗思想通过冥想和修行来实现内在平静和悟性,从而达到解脱。

而老庄思想认为,道是一切生物和现象的根源,是一种无名的不可说的本质。这种本质是自然的,不需要人为干预,人们应该尊重自然的流动。

佛学禅宗和老庄思想都强调了内在的修行练习,以达到人生的解脱和超越。但是它们在实现这个目标的路径上有很大差异:

佛教禅宗强调通过修行消除内心的烦恼和幻觉,来实现解脱;

老庄思想强调人与自然的和谐相处,通过对道的理解来实现人生的完善。

老庄思想对自我意识的理解是比较特殊的,它认为"自我意识"并不是一个固定的东西,人类内心深处没有固定的自我意识,它们都是由外界产生的,是人类和自然反应的产物。

在老庄看来,人与世界是一个整体, 要让自我意识变得明朗,首先要让自己摆脱对于物质享受和外界刺激的依赖,从而使自我意识清明起来,消除对自我意识的认知。

总之,老庄思想对自我意识的理解是:

个体的意识是宇宙本质的体现,而宇宙本质是无限、无极、无穷、不可思议的。

如读者还记得,开篇的时候谈到了量子纠缠效应的一种解释:整个宇宙在更高的维度上是一体的。再看看老庄对自我意识的理解,是否有异曲同工之妙? 个体意识是否也是高维空间的统一体在这个三维宇宙中的某种投影呢?

和老庄思想不同, 佛教禅宗对自我意识的理解是自我超越的概念。

禅宗认为,自我意识是一种错误和妄想的知觉,人的"自我"由五蕴(色、受、想、行、识)组成,这些蕴是不断变化的,没有一个固定的"自我";

通过修行和冥想可以破除"自我"的概念,达到无我境界,在这个境界中,个体可以超越以自我为中心的世界观,达到宁静和智慧。

所以,禅宗强调通过冥想和修行来获得一种更高境界的观察力,这种观察力能够让个体看到自我意识的错误性,即通过冥想内观达到无我的境界,获得自我意识的解脱。

禅宗对自我意识的认知颇像一个升级版的“高阶意识理论”,探求从更高的境界审视自我意识。

和老庄思想探求人和自然的关系相比,佛学禅宗则是直接和人的内心意识打交道的学问。

人的思想意识,佛学观点叫做妄念,是虚妄的。起心动念,即是人各种纷杂的意识在活动,而且还是"纯粹"的意识:念头不是直接外界感受直接触发的,而是内在主观升起的。

禅宗的核心经典《金刚经》,其主要观点 "善护念,应以无住而生其心"。意思是说,人的内心意识不要停留在某一个念头上,应无所停留。这是一个精妙法门,有心的读者不妨多体会。

有意思的是,佛学里所说的"第一念"究竟是怎么来的,也就是意识怎么来的,这是大小乘佛教的基本问题,但佛学对这个问题同样无解。

唯识学里的意识层次

“本我,自我,超我”是现代心理学对自我意识层次的一种经典理解。不过, 对意识能力进行最系统化解析的学说体系,恐怕不是当下的脑科学或者心理学,而可能是起源于古印度的唯识学。

唯识学所研究的对象就是意识心理。其理论体系主要包括五蕴心法体系。

上面禅宗一节里也提到了五蕴。

在唐代,玄奘大师把古印度的唯识学带回了中国,他的弟子窥基法师帮助他翻译唯识学经典,一起做 《成唯识论》,而窥基法师再传了一代后, 中国大陆唯识宗基本就失传了。

只传了三代的唯识宗理论对中国古代思想体系影响颇大。在唯识学的影响下,再一定程度上吸收融合了老庄思想 ,中国文化的禅宗思想在唐宋时期诞生了。

在说五蕴是什么之前,我们不妨先理解一个概念:“意向性”:

自我意识的心理活动可以分为两种,一种是指向某个目标意向的,比如五官感觉,或者具体想法等,这叫做意向性心理活动;还有一种意识活动没有任何外部目标意向,比如内在冷暖或者疼痛的感受,这就是无意向心理活动。

一,“色”蕴,指一切有形态的客观存在的物质聚合,包括“色、声、香、味、触”五境,也就是“自我”对客观世界的各种感知能力。这些感知能力显然都是有外部对象的,是意向性心理活动。

二,“受”蕴,感受,包括冷暖疼痛这种身体内在感受(身受),以及苦乐悲喜这种情绪感受(心受)。这些感受本身是意识的内在体验,没有目标意向。(注意 触感不属于感受的范畴哈)

三,“想”蕴,想法和念头,用现代科学的话就是思维能力,比如思考,记忆和想象,接受外界事物并进行分析得到的想法和认知,这也是有目标意向的。

四,“行”蕴,行动和造作,比如动机,欲望,意愿,由心所驱使的行动决策等。这明显也是意向性心理活动。

五,“识”蕴,强调了自我意识的反观能力,也就是前面禅宗里对内心的更高观察力。这里也不指向任何目标意向,或者可以理解为,“自我意识”本身都成为观察对象了。

如果把唯识学的意识层次理论和佛罗伊德"本我,自我,超我"体系放一起相比较,私以为还是古人的智慧更高明一点。

唯识学据说是佛学体系最艰深的学问之一,我们仅仅浅尝了它基本的五蕴体系,有兴趣的朋友可以自行了解。

佛学和量子力学里的意识研究

前面列举了不少自然科学对意识的探索,但无论是神经科学,还是各种实证理论学派,我们都能感觉到,它们在解释意识从0到1的起源时,吃力无比。

本质上,科学研究的目标是物质世界,科学研究的基本方法就是假设和区分客观世界和主观世界,也就是物质和意识必须分开,它研究的是"不以人的意志为转移的客观世界"。

自然科学的方法,是逻辑推理加实验。不管是来自亚里斯多德时代的形式逻辑,还是培根的科学归纳法,前提还是客观物质世界和主观意识能完全分开。

所以自然科学用来探讨"自我意识"在物质世界的起源,真的很不讨好 。

而佛学呢?佛学就是研究意识的学问,反而认为主观和客观,物质和意识不能分开,这就是"心物一元"。佛学的研究方法,是靠提高人的认知能力来达到的;悟性到了,认知能力到了,自然能够理解。

对于实证科学很难直接介入的自我意识领域,古人对心智观察的智慧, 一点都不显得落伍。当今人类对自我意识的审视观察未必比千年前的古人更高明。在物质条件简陋的古代,做学问只有内观自省;现在物质文明极大丰富,各种外部诱惑实在太多,连静心思考的时间恐怕都没了,哪还有时间内观心灵呢?

科学尽头的一大命题就是研究自我意识和物质世界的关系。在这个命题上,一般科学体系还真没什么太好的方法。当然我们不要忘记了, 还有一个神奇的科学 -- 量子力学。

量子力学非常不符合人类在宏观层面上的认知,但我们把目光转向认知主体"自我意识"时,却发现量子力学这个本是解释客观世界的理论用来解释“主观意识”很管用。

"量子意识"理论(目前有好几种不同)认为,意识是一种量子力学现象,涉及量子纠缠和叠加作用。大脑神经系统里存在海量的量子纠缠态的电子,意识是从电子的波函数周期性坍塌中产生。这个假说很玄幻,但是在解释大脑功能方面是有地位的。

有趣的是,如果深入了解,我们会发现,佛学和量子力学对意识的论述似乎非常融洽,居然有着不错的相互参照性。

比如,量子力学的实验已经严格证明,基本粒子在没有观测的时候是没有确定状态的。佛学中关于意识的描述:意识本体是"一念不生,了了分明";处于这种境界的人对所有事物都不会生心,意识"不住相", 处于不确定的状态。

基本粒子这种不被确定的状态如果被观测,也就是一旦有人的意识参与,基本粒子的波函数就开始坍塌, 电子就会出现确定的位置,显示出客观实在性。所以量子力学中,客观实在产生于有意识参与的测量。而佛学里所指"起心动念"的本质也可以看做是一种测量,自我意识在起心动念的时候不再自由,而是"坍塌"到某个具体的念头里去了。

以上关于基本粒子的那一半已经是被实验证明的事实;而佛学的另外一半不妨先看做某种有意思的类比。

顺便说一句,为什么用“佛学”而不是“佛教”一词呢, 因为佛学和其他讲究个人信仰的宗教很不一样,它更像是一个探求世界万物和内心本源的严肃学问。

看到一网友关于佛学和量子力学的殊途同归有着颇为精妙的评论, 特摘录:

"《心经》言∶色不异空,空不异色;色即是空,空即是色。

“色”,既有质碍之物,有形之态,这便是粒子。

“空”,无常无我之意,刹那为无常,五蕴因缘为无我,这便是波。

色受想行识,五蕴因缘汇聚,自我状态便是为粒子;

破除我执,由自我而无我,由色而空,是为波。

大乘佛教认为色与空对立统一相互依存,这宛然就是波粒二象性理论,

量子力学说的“二象性”,正是佛教里面的“不二”,因此又可以说量子力学是“波粒不二”经。"

量子力学已经极大改变了普通人对物质世界运作规律的认知,是一门玄之又玄的科学;但其实那几个关于意识的实证理论,无论是GWT全局工作空间理论还是IIT信息整合理论,其玄乎性质可一点不比量子力学逊色(笑)

所以,从作者的角度来看,如果最后解决"自我意识"起源难题的,反而是最古老的佛学和最新的量子力学这个组合, 那并不让人惊讶。

10.AI意识觉醒可有期

有句话说,科学的尽头是玄学。我们这篇关于意识的文章里也嗅到了那么一点味道。

但我们还是要回过头来,科学的考察一下AI如何才能意识觉醒:)

从科学的角度来思考这个问题,如果不是一口吃个胖子,不妨就按照意识的不同层次,逐步实现之。

回顾一下前面所提到的五蕴理论,"自我意识"分为两类心理活动,一类有意向对象,称为意向性心理活动,比如色蕴,想蕴和行蕴;另外一类没有意向对象,称为无意向心理活动,就是受蕴和识蕴。

我们可以先简单的下个结论:意向性心理活动一定比无意向心理活动更容易使用机器AI实现。这里面的道理很简单,意向性心理活动一定伴随有一个目标对象,既然有外部目标对象,就总可以找到办法进行表征,建模和计算。

色蕴所包含的五识,即视觉,听觉,味觉,嗅觉,触觉,作为外界的感官输入,是最先被当前计算机科学所解决的。无论是视觉的画面,听觉的声音,还是其他感官信息,我们都可以轻易把信号转化为AI所能理解的二进制进行处理。

随后是想蕴和行蕴,一个代表思维能力记忆能力逻辑想象力,一个代表对外部行动的判断决策意向行为。在ChatGPT这种程度的超级AI里,其实可以认为实现得很好了。

或者这么说,马上能通过图灵测试的超级AI,处理指向外部目标意向的意识活动,基本是很靠谱了。

而真正困难的,是那些完全没有目标意向的无意向心理活动,即受蕴和识蕴这两个硬茬。

受蕴,也就是物理机体的感受以及内在的各种情绪感受。这就有点难了,这些感受完全没有目标意向,很难去"客观描述"。无法描述,则无法数学表达和计算。

而识蕴就更难了,没被绕晕的读者或许会敏感的指出一点,其实这个"识蕴"才是我们本文所谈论的"自我意识",即强调对自身的观察和二次判断,包括对各种感觉,情绪,想法的观察和再认知,是真正的反观内心。

不妨,让我们用"五蕴"来指代广义版本的"自我意识", 而其中的"识蕴"指代狭义版本的"自我意识"。

在这个定义之下,根据前面的讨论,广义的"自我意识"ChatGPT已能实现接近60%了。当然,是那容易的60%部分,即所有带有目标意向的自我意识。而剩下的40%意识都是无目标意向的,需要去实现AI的内在主观感受,以及实现AI对自身认知的二次判断,都是硬骨头。

在所有意向性的自我意识中,如环境感知,认知推理,语言交流,想象思维,行为控制,这些能力ChatGPT都是妥妥的,唯一有点疑问的就是"情感表达"。

请注意,这里描述的"情感表达"是面向外部的,有目标意向,这个目标意向就是和AI聊天的人类。

前面提到的Google工程师认为和他聊天的AI有真实情感,这就是AI的"情感表达"。

也就是说,ChatGPT能表现出某种情感交流,并让和它聊天的人类感受到这种情感,就达成目的了。

而至于说,AI自己内心是否有情感,这就没有保证了。事实上,“内在情感”正是属于那特别难的40%部分,即AI的自我感受。

不过,即便是只实现外部意向性的"情感表达"也很好啊,如果完全实现了,今后AI男友或AI女友就从科幻片成为事实了,"尽管我不知道AI的内心是否有爱,但他/她看起来很爱我,绝不会背叛我,这就够了。"

ChatGPT还没展示出"情感表达",但从ChatGPT已经显示的各种能力来看,作者以为这是100%可以达成的。

"非不能也,实不为也",不去开发训练ChatGPT的个性化性格和情感化交流,是因为商业上还没有需求,也为了规避可能出现的伦理问题吧。

总而言之,在"自我意识"的核心理论没有出现重大突破之前,以上大概率就是ChatGPT这样的超级AI所能达到的最好"自我意识"水平了。

已然很了不起,走到了这一步的AI已经胜任一个完美的助手,甚至一个伴侣。

再往后,那剩下的40%,狭义的真正"自我意识",即AI机器的自身主观感受和内省自察能力,或许要等到量子计算机出现,同时还寄望于"量子意识"假说成立。

在这种情况下,把ChatGPT未来版本的AI跑在量子计算机上,可以期待在某种量子效应下,那剩下的40%真正的AI"自我意识"自然觉醒。

如此看来 《流浪地球2》里用量子计算机来运行数字生命,是非常有先见之明的。大家是否还记得,数字生命小女孩在电影里告诉爸爸她冷,这说明电影里的AI已经有真正的主观感受, 她确实是100%真正的"自我意识"。

11.结语:人工意识的尽头是什么

从某个角度来说,人类的"自我意识"是一种瞬息的现象,并不连续:"自我"是一个一个意识片段连接而成。

蔡志忠老师说过一句话,“人生是时间的微积分”,说得真是精妙。

我们在这篇小文里汇总了人类对"自我意识"方方面面的探索,也提出了一点天马行空的想法。可能有读者还是会说,貌似没有正面回答题目的问题:从ChatGPT到"自我意识"究竟还有多少距离?

作者认为,如果这篇文章能从科学研究的角度严肃完整作答,那么它实在应该发表在《Nature》,而不是微信公众号了(笑)

尽管如此,如果以上文字能让大家对"自我意识"这个终极问题有更多认识,甚至给予了一点独特的启发,那就是本文的巨大胜利。

人类对"自我意识"的研究能否终得正果?

在这个问题上,作者首先是觉得,真正"自我意识"的人工实现方法最好不被发现。

一旦有一天,人类成功让AI机器拥有了和人类等价的"自我意识", 这恐怕是对人类一个巨大的伦理学挑战。

但与此同时,作者又希望看到有一天,人类意识能被复制和上传于计算机网络,实现数字生命的永生。但要做到这一点,必先要找到那个"自我意识"的人工实现方法。

这是一种有点矛盾的想法。

不过呢, 人类一直都在矛盾中前进, 科学技术每一次的巨大突破都可能是双刃剑。典型的例子就是核能技术与原子弹,在造福人类的同时也提供了第一个真正能毁灭全人类的方法。

人类的一种未来,AI的自我意识永远不会诞生,拥有超越人类智力的AI始终是人类的好工具,好助手。

人类的另外一种未来,则是机器觉醒,碳基生物文明的我方人类要学会与硅基电路文明的AI机器人共存。

从灵魂的角度而言,碳基生物生命意识和硅基电路生命意识,并没有贵贱之分。

引用一位尊敬师长的言论作为结语:

碳基生物的人类只是人类文明的载体, 基于硅基的文明未必不是一个很好的归宿。


赞助本站

相关内容
AiLab云推荐
推荐内容
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港