胡泳/文
人工智能一代
虽然围绕人工智能还有许多不确定因素,但我们知道,它会影响到我们生活的每一个部分,而且在许多情况下,对儿童和青少年的影响最大从他们如何出生和长大,到他们可以获得的服务,以及他们如何学习,乃至他们将要接受训练的工作。
我们称今天的儿童为“人工智能一代”,人工智能模型所作出的决定界定了他们在网上观看的视频、他们在学校的课程、他们的家庭获得的社会援助……这一现实既带来了巨大的机会,也可能生发严重的风险。如果没有对儿童的特别关注,这项技术的发展有可能在不考虑儿童的具体需求和权利的情况下进行,而儿童的健康发展对任何社会的未来福祉都是至关重要的。
人工智能可能加剧不平等,并维持偏见。例如,采用机器学习和人工智能技术对学生申请进行分类的学校,可能会无意地但却是系统地排除某些类型的候选人。在影响深远、有时是无形的监视技术背景下,我们如何保护儿童不受歧视?
人工智能设备越来越能操纵用户并使其上瘾,而儿童尤其容易受到影响。对人工智能技术的过度依赖会让孩子在社交和情感上变得残缺。数据隐私泄露也是一个令人担忧的问题,当社交媒体通过数据采集和推送定向内容与儿童对接时,当智能玩具能够听到孩子说话时,孩子们的隐私该被如何对待?
儿童/青少年已经占了人工智能系统用户的很大一部分。如何/何时从他们那里收集数据?公司可以用这些数据做什么?如何为未成年用户创建/过滤内容?很明显,我们需要人工智能的领导者、工程师、设计师、产品经理和其他参与创建人工智能系统的人接受儿童权利的教育,以保障这些权利在系统的不断加速发展中得到维护和考虑。
这样的考量必须转化为具体的措施,诸如:
如何根据“儿童友好”的全球标准以及用户的偏好,建立内容或平台的评估/评级/排名系统?
如何让年轻人根据自己的喜好选择加入或退出人工智能功能(不论在移动设备还是在网站上)?
怎样公布有关公司、工具、平台或个人内容的表现信息,以激励更多的对儿童友好的内容?
在设计管理人工智能系统的全球标准及法律和政策时,可以如何让儿童和年轻人参与其中?
怎样保障儿童/青少年的数据安全,并教会他们学习个人管理?
任何贩卖未来的教育都有麻烦
对于父母来讲,他们眼下最忧虑的是,他们还能不能教育出一个在人工智能时代生存的孩子。
搞教育的人总是如此说:让今天的孩子们准备好迎接非凡的未来。可是,如何为他们的未来做准备?你有什么办法确保你的孩子在人工智能的世界中茁壮成长?这个世界,10年、20年、30年后会有很大的不同。你作为教育者或者父母,怎么会知道孩子将来从事什么职业,或真能做好那份工作?事情的真相是,你并不知道。
其实对此很容易理解,试问你现在正在做的工作,有多少是你的父母和祖父母能够认识和想象的?人工智能大举应用以后,儿童和青少年在成年后所从事的职业将与他们的父母和祖父母所了解的职业完全不同,甚至就连“职业”和“工作”的定义也在改变。
据世界经济论坛《工作的未来》报告,到2065年,今天进入小学的儿童中高达65%的人将在尚未创建的职位上工作。而大多数现有的各层次的教育系统提供的是高度孤立的培训,并继续采用一些20世纪留存下来的阻碍当今人才和劳动力市场发展的做法。困扰全球正规教育系统的两个遗留问题是:人文和科学之间的二元对立,以及对高等教育内容的过度追求,而不是解决问题的能力的培养。
人工智能恐慌影响的第一个地方是教室
今天的孩子遇到自己不知道的东西,他/她不会问爸爸妈妈,而会问搜索引擎。这非常有趣,因为孩子有这样的概念,他/她认为搜索引擎什么都知道。而我们必须向孩子解释,搜索引擎并不是什么都知道。而且还有一些事情,你可能并不想让搜索引擎知道。
但不管怎样,孩子想要知道答案,作为大人,既然我们的知识不敷使用,为什么不把搜索引擎当成某种工具,并借此教孩子们学会更加独立地思考?你可以对孩子说:“嘿,你有一个问题。去问搜索引擎吧,看看答案,然后告诉我,你对这个答案是怎么想的,你打算用这个答案做什么。”
ChatGPT也是同样。它考验的是学生的提问能力。某件事情,如果我不知道答案,我怎样才能找到答案?我如何找到那些有答案的人?我如何将这些小小碎片组合在一起,形成一个解决方案?还有,如何看待数据?如何发现数据背后的东西?这就是人们需要学习的东西,即如何解决问题。我不认为很多学校的教育是围绕这一点展开的。
人工智能恐慌影响的第一个地方是教室。现在,大家普遍在恐慌两件事:
第一是作弊。之前论文有查重机制,而现在老师需要知道怎么识别作业是否是ChatGPT写的。GPT是生成模式,意味着互联网上没有历史数据信息,查重很难查到。为了应对这一情况,普林斯顿的学生开发了一个叫GPTZero的智能监测工具,用技术对抗技术;而很多学校则干脆直接禁用GPT。
第二是考试。我们看到GPT4能顺利通过法律、医学等等考试。考试原本是考核录取学生的标准,如果GPT都能考过,会对考试和评估形成压力,它关系到教育的底层逻辑。
这两点对教育的冲击很大,将影响老师和学校到底该怎样判定一个学生。对于这样的挑战,简单粗暴的操作方式就是禁,但禁肯定不奏效,长期也禁不了,毕竟对学生的诱惑力太大了。
不如倒过来想,GPT可能带来什么好处?从一个完全不同的角度看看教育,GPT给了我们一个警醒:原来的教育模式本来就存在问题。
比如作业长期被认为是训练学生的必要手段,好像天经地义,但它到底对学生成长有没有用?作业量和学生成绩的好坏真的有因果关系吗?现在的考生之所以不停刷题,是考核方式决定的,考核的逻辑与刷题的逻辑一致。
教育哲学家杜威探讨过学生在学校里到底学习什么。作业的目的是从显性课程中学习,但学生也从所参与的活动中学习,这叫“附带学习”。杜威说,也许对教育的最大误解就是认为人只学习他正在学的东西。其实,除了人们经由专门学习有意获得的知识,还存在一种无意学到的知识,它包括通过交往、评价等在学习过程中所获得的理想、情感、兴趣、意志等。杜威认为,附带学习比学校中有关知识的学习更重要,因为它可以培养学生面对未来生活最根本的态度。永远有会考试的学生,但高分的学生未必是好的学习者,甚至反而缺乏自主学习的能力。
自主学习能力通过作业衡量不了,所以我们需要倒过来思考作业的有效性有多高,以及是否应该在课堂中不以作业为导向,而转为以讨论、协作、做项目等为导向,来进行全新的考核。
在这种情况下,GPT不仅可以用,甚至还能变成教学工具。比如,一个老师过去可以给学生布置写作任务,让他们为某件事情进行论证,并根据他们交上来的文本进行评分。现在,她可以要求学生使用ChatGPT生成一个论点,然后让他们就该论点对特定受众的有效程度进行注释。最后,学生根据自己的意见重写。这时GPT就可以成为锻炼学生辨识信息能力的教学工具。通过这个过程,还可以考查学生有没有信息素养,进而提升“人工智能素养”,分辨人工智能给出信息的真伪,以及判断它的逻辑。
一个老师也可以鼓励学生在他们的书面作业中使用ChatGPT,但评价作业时,同时评估提示以及结果,而提示甚至比文章本身更重要。对学生来说,知道在提示中使用的词语、然后理解返回来的输出是很重要的。老师需要教授如何做到这一点。
教师角色会发生广泛转变。曾经在课堂上发放的信息现在无处不在:首先是在线,然后是聊天机器人。教育工作者现在必须做的是,不仅要告诉学生如何找到这些信息,还要告诉他们哪些信息值得信任,哪些不值得信任,以及如何区分。教师不再是信息的看门人,而是促进者。
我经常想,教育实际上应该只是给人们分配问题来解决,而不是像现在这样的教学,从事的是知识的理论示范。我们迫切需要转变教育观念:一个孩子变“聪明”意味着两种能力的同时提高既掌握那些成型的知识,又具备灵活的解决问题的技能。
人们需要学习什么
过往,我们把孩子当成需要被填满的容器。如果我们能做到用正确的科目或者正确的活动来填满他们,就好比把所有正确的东西都装入了他们的大脑里,他们就可以开步走,向上攀爬了上好的学校、赚大钱、从事舒适的工作。
罗伯塔米奇尼克戈林科夫(Roberta Michnick Golinkoff)和凯西赫什帕塞克(Kathy Hirsh Pasek)在畅销书《成就辉煌:学习的科学告诉我们如何培养成功的孩子》(Becoming Brilliant: What Science Tells us About Raising Successful Children)中指出,所有学生的基础技能无论他们在高中毕业后选择什么道路都是6C:合作能力(collaboration)、沟通能力(communication)、知识储备(content)、批判性思维(critical Thinking)、创新能力(creativity)和自信心(confidence)。雇主希望雇用优秀的沟通者、批判性思考者和创新者简而言之,他们想要的是杰出的人才。但孩子们从成型知识储备为王的教育系统出来后,用人者往往感到失望。
6C是帮助所有儿童更好成长的关键技能,这些技能也将帮助孩子们成为对社区有贡献的成员和良好的公民,因为这能更好地打造一种充实的个人生活。
虽然我们都希望我们的孩子能取得成绩,但每个孩子都不仅仅是他或她的成绩所构成。那些技能只局限在成型知识储备上的人,有时在学校表现出色,但在工作中似乎永远无法取得大的进展。当公司出现新的职位时,会有人想到他们来担任管理者吗(也许他们缺乏协作的能力)?或者当他们的实验室需要开发一种新的方法时,他们有能力朝另一个方向跑吗(也许是由于缺乏创造力)?
透过6C的视角,我们可以更全面地了解我们孩子的优势和劣势。这意味着我们需要不再强调标准化的测试,因为它将学校教育的重点放在了过于狭窄的成型知识储备的技能上,而忽略了发展上述的其他基础技能。我们也需要不再强调培养特定职业的技能,懂得编码、焊接或会计并不是拥有一个成功的几十年职业生涯最重要的东西。所有这些职业技能的半衰期越来越短。这并不是说知道如何编码、焊接或做会计就完全无用,只是这些是锦上添花的职业准备技能,并不是关键的基础技能。在人工智能时代,学生仍然需要有一个基础,以便有效地使用人工智能。孩子可以利用这个基础,来回答更多的问题,解决更多的问题。而只有当父母和教育者关注这六种关键技能的培养时,他们才会成为孩子的变革推动者(change agent )。
重新强调通识教育
《纽约时报》专栏作家大卫布鲁克斯(David Brooks)在一篇题为《在人工智能时代,主修“为人”》(In the Age of A.I., Major in Being Human)的专栏中,提出了另一份超越人工智能技能的清单,分别是:独特的个人声音、演示技巧、孩童般的创造才能、不寻常的世界观、同理心以及情境意识。
如果你是一个准备在人工智能世界生活的大学生,你需要问自己:哪些课程会给我带来机器无法复制的技能,使我更具有人类特征?你可能想避免任何教你以非个人的、线性的、泛化的方式思考的课程人工智能将粉碎那样的思考。另一方面,你可能希望倾向于科学或人文方面的课程,这些课程将帮助你发展以下明显的人类技能:
独特的个人声音(A distinct personal voice)
人工智能经常炮制出在政府报告、公司通讯或学术期刊中可以发现的那种没有人情味的官僚文章。你想要培养出与乔治奥威尔、琼狄迪恩、汤姆沃尔夫和詹姆斯鲍德温一样独特的声音,去上那些你会听到独特观点的课,这样你就可以学着打造自己的声音。
演示技巧(Presentation skills)
上一代信息技术有利于内向的人,而在到处都是新的人工智能的环境中,我们更珍视人与人的关系,更可能有利于外向的人。能够创作和发表一篇很棒的演讲,与观众建立联系,以及组织有趣和富有成效的聚会的能力,似乎是人工智能不会复制的一套技能。
孩童般的创造才能(A childlike talent for creativity)
当你与GPT这样的系统互动一段时间后,你会注意到它可能会从给出平淡无奇的答案转向完全无意义的废话。而儿童天生是创造者。儿童不只是模仿或被动地吸收数据;他们探索,创造新的想法和富有想象力的故事来解释世界。所以在学习中,你需要参加那些能够释放你的创造力、让你有机会锻炼和磨练自己的想象力的课程,无论它们是关于编码还是绘画。
不寻常的世界观(Unusual worldviews)
AI只是一台文本预测机器,善于预测接下来应该出现什么,所以你要真正善于做到不可预测,脱离常规。用来自遥远时代、不寻常的人和不熟悉的地方的世界观储备你的头脑。在这个传统思维受到涡轮驱动的时代,具有逆向思维和独特世界观的人将是有价值的。
同理心(Empathy)
机器思维对于理解人群的行为模式是很好的,但对于理解你面前的独特个体来说,它并不出色。如果你想做到这一点,好的人文学科课程是非常有用的。通过学习文学、戏剧、传记和历史,你可以更理解其他人的思想。
情境意识(Situational Awareness)
拥有这种技能的人,对其所处情况的独特形势会有一种直观的意识,知道什么时候应该遵守规则,什么时候应该打破规则。对事件的走向有一种感觉,一种特殊的敏感性,不一定是有意识的,但知道应该以什么样的速度行动,做出什么样的决定。这种敏感性来自于经验、历史知识、面对不确定性时的谦逊,以及过着反思和有趣的生活。这是一种掌握在身体和大脑中的知识。
归根结底,我们需要重新强调通识教育。正如哈佛大学经济学家戴夫戴明(Dave Deming)所写的那样:
通识教育培养了宝贵的“软技能”,如解决问题、批判性思维和适应能力。这些技能很难量化,且并不能为高薪的第一份工作打造清晰的路径。但它们在各种职业中具有长期的价值……即使从狭隘的职业角度来看,通识教育也有巨大的价值,因为它建立了一套基础能力,在迅速变化的就业市场中对学生有好处。
这也是我对人工智能时代的希望它迫使我们更清楚地区分作为有用信息的知识和让人能够更具智慧和发生改变的人文知识。
教育的转变方向在于,帮助学生建立或学习新的人工智能工具,并了解这些工具的所有社会和伦理影响。这将使学生准备好到外面的世界去解决问题,提出基本的伦理和社会质疑,并设想通过使用这些工具,促使一个更公正和公平的世界诞生。
(作者为北京大学新闻与传播学院教授)