展会信息港展会大全

Anthropic CEO:2027年AI将全面超越人类能力
来源:互联网   发布日期:2025-01-22 14:12:31   浏览:114次  

导读:1月20日至24日,世界经济论坛2025年年会在瑞士达沃斯-克洛斯特斯举行。在这场汇聚全球政商领袖的重要会议上,AI 技术的发展前景成为最受关注的话题之一。昨天,华尔街日报对 Anthropic 首席执行官 Dario Amodei 进行了一场深度对话,这位 AI 行业领军企业的掌舵人首次明确预测,AI 系统可能在 2027 年前后在"很多方面"超越人类能力。作为 Claude(一个与 ChatGPT 齐名的大 ......

1月20日至24日,世界经济论坛2025年年会在瑞士达沃斯-克洛斯特斯举行。在这场汇聚全球政商领袖的重要会议上,AI 技术的发展前景成为最受关注的话题之一。昨天,华尔街日报对 Anthropic 首席执行官 Dario Amodei 进行了一场深度对话,这位 AI 行业领军企业的掌舵人首次明确预测,AI 系统可能在 2027 年前后在"很多方面"超越人类能力。

作为 Claude(一个与 ChatGPT 齐名的大语言模型)的缔造者,Amodei 不仅详细阐述了这一大胆预测背后的思考,还就 AI 发展将如何重塑经济结构、改变就业形态,以及企业和政府该如何应对这一变革等关键问题,提供了深入见解。这番言论在达沃斯引发广泛讨论,也为我们勾勒出了一幅加速到来的 AI 时代图景。

本文整理了这场重要对话的完整内容,了解这场即将改变人类社会的技术革命。

文稿整理:主持人 : 首先,我要表达由衷的感谢。我利用 Claude 开发了一个达沃斯助手,这确实让我的管理层都应该感激不尽。它不受时差影响,无需支付住宿费用,而且对我的工作帮助颇多。这个助手已经整合了我的日程安排、笔记等各项功能。不过,它仍有一些需要改进的地方,我想就产品相关问题进行探讨。在开始之前,我想了解一下在座的各位,有多少人使用过 Claude?是否有深度用户?很好,看来这将是一场适合所有人参与的精彩对话。我想先列举一些我期待的功能,这会是一个有趣的讨论。您可以选择是否透露具体时间表,也可以告知某项功能是否会实现。那么首先,关于网络访问功能,您怎么看?

Dario Amodei: 这确实是我们正在研究的重点领域之一,且将在不久的将来推出。需要说明的是,Anthropic 的业务主要面向企业客户,因此我们往往优先处理企业端需求。网络访问功能更偏向消费者端,但我们已经在这方面投入了相当时间,且形成了一些有别于其他模型提供商的独特思路。虽然我不便提供具体上线时间,但这项功能即将推出。我们深知这对消费者,尤其是深度用户的重要性,因此也将其列为优先开发项目。

谈Claude AI 新功能主持人 : 非常好。关于语音模式即实现与 Claude 的语音对话功能。

Dario Amodei: 这项功能最终也会实现。目前的情况是,Claude 已经具备语音转文字和文字转语音的能力。至于双向语音交互模式,这是我们未来规划中的一项内容。不过从企业用户和部分深度用户的角度来看,对这项功能的需求相对较低,但它确实会在未来推出。

主持人 : 那么关于照片生成功能呢?

Dario Amodei: 我倾向于将图像或视频生成与其他生成式 AI 功能区分对待。从人类的角度来看:人类能够接收音频、照片、视频信息,但并不具备直接"生成"照片的能力。当然,画家可以创作,但照片制作是另一回事。我认为这是个较为特殊的领域。从安全和风险控制的角度来看,图像和视频生成面临着一系列独特的挑战,这与文本生成有着本质区别。另外,企业用户对这类功能的需求也相对较低。因此,这并非我们的优先发展方向。如果未来消费端对此需求激增,我们可能会选择与专业的图像生成公司展开合作。

主持人 : 理解。我在推特(或者 X,现在该如何称呼它)上进行了相关调研,收到了 200 条回复。实际上,我提出的所有问题都获得了大约 200 条回复,其中绝大多数都在要求提高使用频率上限。

Dario Amoei: 确实,我们在这方面正在积极努力。过去一年,特别是最近三个月,需求的快速增长已经超出了我们现有的计算资源承载能力。大规模采购计算资源需要充分的准备和完善的采购流程。我们的营收在过去一年增长了约 10 倍,虽然具体数字不便透露,但规模已从亿美元级别跃升至百亿美元级别,且增长势头仍在持续。我们正在全力提升效率,同时也在推进与亚马逊在 ReInvent 大会上达成的合作,计划建设一个包含数十万颗 Trannium 2 芯片的集群。预计到 2026 年,拥有超过百万颗芯片也并非不可能。我们正加紧部署这些芯片,并致力于优化推理效率,但这需要一定时间。面对如此快速增长的需求,我们正竭尽全力满足用户需求,并持续改善付费用户的使用体验。

主持人: 好的,我会记住您的承诺。还有一个问题是关于记忆功能,希望 Claude 不仅能够记住单个项目中的对话,还能够实现跨项目的内容记忆。

Dario Amodei: 这确实是一个重要议题。这也是我们更宏大愿景"虚拟协作者"概念的重要组成部分。就像与同事交谈时,对方需要记住之前的对话内容一样,这项功能也将很快推出。你之前提到我们非常注重企业客户,但作为消费者,即便在企业工作的我们也都是消费者。

主持人 : Claude 独特的角色特性使其极具吸引力,也是它如此实用的原因之一,这也是为什么在面对其他大型语言模型或产品时,我依然会选择 Claude。您能谈谈 Claude 的"角色"设计理念吗?显然你们为其设计了适应企业环境的形象,那么在消费端是如何考虑的?

Dario Amodei: 实际上,Claude 的角色定位在企业端和消费端都同样重要,因为与消费者的互动至关重要,对企业也是如此。我们服务的企业客户中,如 Intercom 等众多客服公司都在使用我们的模型提供客户服务,这使得交互模式变得尤为重要。即便在编程等专业场景中,角色定位依然不可或缺。斯坦福医学院最近的一项研究将 Claude 与其他模型在医疗场景下进行对比,包括放射科影像分析的准确度以及医生采纳模型建议的程度。研究发现医生更倾向于接受 Claude 的建议,采纳度也更高。我认为这与模型的交互方式密切相关。因此,无论是企业还是消费者,我们都投入了大量精力,致力于打造不仅优质而且真实且有价值的 Claude 互动体验。我们如此重视这一点,还有一个更深层的原因:当今的个人用户,尤其是在提升生产力方面,每天都会花费数小时与模型交互,将其视为助手。在工作中,这些智能助手有时甚至能比人更好地解决数学问题。在如此频繁的交互中,我们必须确保做对每一个细节。这不仅是要让模型显得亲和、富有吸引力,更要确保模型与用户的互动方式能让使用者在数月乃至数年后,在将其整合入工作流程后,真正受益。用户会变得更高效,学到新知识。模型固然会帮助完成工作、提升效率,但从长远来看,这种关系必须是互惠互利的。

回顾社交媒体的发展历程,其中存在诸多问题。最显著的问题在于,尽管社交媒体极具吸引力,能带来即时的多巴胺刺激,但我们都对其长期使用对人们的健康影响持怀疑态度。我们从中吸取了教训,致力于确保 AI 不会重蹈覆辙。而 Claude 的角色定位正是这一努力中最关键的环节之一。

谈2027年AI超过人类主持人 : 确实如此。您提到了模型,这也是我在 X 平台上收到的众多反馈之一。现场也有很多深度用户,他们对下一代模型充满期待。OpenAI 最近推出了新的推理模型,如 o1、o3。贵公司在这方面有什么计划?

Dario Amodei: 是的,我们将在不久的将来推出一些非常出色的模型。具体名称暂时不便透露。关于您提到的推理模型,我们的观点与他们略有不同。外界通常将推理模型和测试时计算分为两类:常规模型和推理模型,仿佛是两条截然不同的技术路径。但我们的视角不同。我们更倾向于将其视为一个连续谱:模型具备思考和反思自身思考的能力,最终得出结果。如果您使用过 Sonnet 3.5,就会发现它在某些方面已经展现出这种特性。

我认为我们即将看到的变革是在大规模应用强化学习。当使用强化学习训练模型时,它会开始进行更多的思考和反思。这并非如同所谓的"推理模型"或"测试时计算"人们用各种术语描述那样是一种全新方法。更像是一种涌现特性,是在更大规模、基于结果的方式上训练模型后自然形成的产物。我认为这将带来一些改变当然,具体的运作和实现方式还有待观察但我预计会出现一种更连续的差值形态,更自然地将推理与模型的其他功能结合起来。我认为这才是最有效的方法。正如你提到的,我们一直致力于让模型的使用体验非常流畅,使用户能充分发挥其潜力。你会看到,我们对推理模型持类似观点,也许会采取一种......我们会有一种独特的风格,可能会在推理模型领域做一些与他人不同的尝试。

主持人 : 我想稍微回到前面的话题,因为您刚才提到......也许我该在此打住,免得您又不给出具体时间表。

Dario Amodei: 是的,我不会给出任何确切日期。无论是这件事,还是我在本次活动中提到的任何其他事项,都不会给出具体时间表。

主持人 : 好的,不要具体日期。但我们听到了"不久的将来"这个说法。在您看来,这是指 6 个月?还是 3 个月?大约在 3 到 6 个月之间,对吗?如果我们把视角放得更宽广一些,最近有很多关于这个领域发展速度的讨论。比如本周就有报道称 OpenAI 已经开发出了博士水平的代理系统。发展真的有这么快吗?

Dario Amodei: 是的,谈到我对这个发展速度的个人感受,包括认知和情感层面的历程:回溯到 2018 年、2017 年,也就是我进入这个领域几年后,当时我和 Anthropic 的几位联合创始人是最早记录"扩展性规律"的研究者之一。这些规律表明,当你为这些模型投入更多算力时,它们在各个方面都会变得更优秀。从那时起直到约 6 个月前,我一直认为:基于这些趋势,我们将获得在几乎所有任务上都优于人类的模型。我推测这可能发生在 2020 年代某个时间点,可能是二十年代中期,但我一直强调:我并不确定。因为我们可能会犯错,我认为保持这种态度是恰当的。特别是作为这类公司的 CEO,如果总是信誓旦旦地说:"这一定会发生,一切都会很完美......",听起来就像在炒作,对吧?所以在大约 3 到 6 个月前,我对此还存在很大的不确定性。现在我仍有疑虑,但不确定性已经大大降低。我认为在未来两三年内,我们确实会看到这样的模型出现在工作场所和消费者手中。它们仍将作为人类的助手存在,但会逐步在几乎所有方面超越人类。这将带来巨大的积极影响,当然我们也需要关注潜在的负面影响。我确实认为进展速度与普遍预期相符。

我想批评的一点是,既然快速进展的可能性如此之大,我们就应该以应有的严肃态度对待并讨论它。有些公司我就不具体点名了经常出现一些奇怪的推特传言,比如有员工暗示性地表示,好像在暗示"嘿,我们这里正在进行一些惊人的研究"。我认为这是危险的,因为对外界而言,这看起来就像是在炒作。这种传播方式会让人觉得这项技术不够可信,而实际上它确实十分严肃且重要。所以当事情确实很严肃时,这种"似乎在夸大其词"的做法实在危险。我认为整个 AI 产业都有责任表明我们所处时刻的严峻性。如果我们真的认为一些极其积极的变革即将发生,而如此重大的变革必然伴随着风险,那么我们就有责任以严谨的态度进行沟通,表达我们真实的观点。

谈agents的具体功能主持人 : 我很想了解您所说的那些风险以及您期待的规则和监管措施。但在此之前,让我们回到您提到的"同事"这个话题。在达沃斯,讨论都围绕着"agents"展开,简直可以称之为"代理大狂欢",各方都在宣称自己的代理即将面世。您称之为"虚拟协作者",这是一个独特的称谓,对吗?您们在代理或虚拟协作者方面的进展如何?我们在去年底已经看到一些迹象,比如你们在"使用计算机"方面的尝试。能否为我们介绍一下大致的发展路线?当然,我知道您不愿谈具体日期,但今年我们会看到什么?作为这个领域的领军企业之一,也许您能帮我们先理清这个问题。

Dario Amodei: 首先,我想厘清一点,"agents"这个词,以及类似的术语如 AGI、ASI、reasoning(推理)等,在我们领域经常使用,但实际上都没有严格的技术定义。外行可能认为这些词有明确含义,但事实并非如此。"agents"这个词,有时可能仅指"升级版的 Clippy";也可能指我激活这个 AI 系统后,它就能为我编写完整的应用程序,甚至创建一家公司。我们的设想更接近后者,这就是我们所说的"虚拟协作者"。你提到的"使用计算机"功能,可能是这方面的早期实践之一。这只是其中一个组成部分,但我们的构想是,它可以作为工作助手,也可以是个人助手一个能在计算机屏幕上完成任何类似虚拟人能做事情的模型。你可以与它对话,分配任务,这个任务可能持续一整天。比如,你说"我们需要实现这个产品功能",它就会编写代码、测试代码、将代码部署到测试环境,与同事沟通,撰写设计文档,编写 Google 文档,通过 Slack 或邮件与他人联系。就像一个真实的人一样,它会完成这些工作,然后定期向您汇报进度。因此,我将其视为一个代理,一个自主的虚拟协作者,它在较长时间范围内代表您行动,而你只需要偶尔检查和指导。你可以将其想象为在虚拟环境中拥有一个人的全部输入和输出能力的通道。

主持人 : 关于时间表,正如您所说,研究过程本身充满不确定性,很难做出绝对的预测。我无法确切预知我们或整个行业的发展方向。但我"推测"(这不是承诺)我们今年就会看到非常强大的相关功能出现,可能在上半年就能见到。那么我们来谈谈"房间里的大象",也就是代理对人类工作的影响,对吗?您刚才描述的很多工作场景,目前都是由人来完成的。

Dario Amodei: 是的,我通常从短期和长期两个维度来看待这个问题。短期我们过去也经历过技术对劳动力的冲击。在我看来,短期是指一到两年,可能延伸到三年。在这个时间范围内,虽然我们没有完美的解决方案,但我们已经多次见证了技术替代劳动力的冲击。我认为短期内应该从工人适应性的角度思考,利用比较优势。比较优势这一理论很精妙即使机器能完成你 90% 的工作,剩下的 10% 反而变得极其珍贵。你会将全部精力投入到那 10% 中,做出十倍于以前的成果,你的产出也随之增加十倍,因为另外 90% 由机器承担。这对人类可能是有利的。你也可以学习如何调整自己的努力,以配合机器完成的部分。另一方面,从产品设计的角度,我们也可以努力使产品倾向于"互补"而非"替代"。

经济学家 Erik Brynjolfsson 约一年前的研究很有趣,他指出企业在部署 AI 时通常会采用替代模式;但如果投入更多思考,就会发现可以采用互补模式,而且这样做时生产力提升更显著。这表明技术部署方式存在路径依赖性。对我们而言,在设计这种"虚拟协作者"时,也在思考如何实现互补而非简单替代。当然,我不会回避现实,这是一个竞争激烈的市场。如果互补模式总是被纯粹的替代模式击败,整个行业就会陷入困境,我们也需要找到解决方案。市场力量确实强大,但我认为仍有机会找到一条既符合市场规律,又能推动整个产业链向更好、更具创新性、更人性化方向发展的道路。这是短期的情况。从长期来看,我非常确信虽然不确定具体时间,可能是 2027 年,也可能稍晚,但我认为不会晚太多 AI 系统将在几乎所有方面超越人类,至少会超过绝大多数人在几乎所有领域的能力,最终甚至会超越所有人在所有领域的水平。机器人也将受益于更先进的 AI 系统,我们会逐步研发出更优秀的机器人。到那时,我们需要在这样的场合,比如在达沃斯这样的活动中,认真讨论:"我们该如何组织经济?""人类要如何找到自我价值?"很多基于"人类是地球上最智慧物种"这一前提的假设,都将被 AI 的发展打破。

唯一的好消息可能是我们会"同舟共济"。实际上,我更担心出现 AI 完全替代 30% 劳动力,而另外 70% 尚未被替代的情况。这会引发严重的阶级冲突,被替代者和未被替代者之间的对立将十分尖锐。如果我们都在同一条船上,虽然也不一定会好过,但我认为情况会稍好一些,因为我们会坐下来讨论:"这并非随机挑选三成人说你已经没用了",而是我们所有人都面临相同的处境。我们需要直面这样一个问题:当人类社会发展到这样的技术水平,拥有了极大的富足和价值,但"通过人类经济劳动来分配价值并在劳动中获得自我价值感"这种模式已不再适用时,我们该怎么办?这确实是我深信会发生的事,我不会回避这一点。AI 企业很可能会处于这场风暴的中心,或者说是众矢之的。我们需要对此给出一个负责任的答案。

谈AI人才的重要性主持人 : 是的,我正想问这个问题。您谈到了重新组织经济等内容。不过目前,您们这个行业内部正处于一场人才争夺战,是吗?OpenAI、Meta 以及其他竞争对手都在积极招揽人才。你们是如何考虑为 Anthropic 吸引最优秀的人才的?

Dario Amodei: 是的,我想从两个方面来说明。首先,我在一些播客中也提到过,我对人才的理念是"人才密度"远比"人才规模"重要。

主持人 : 也就是说,您希望团队规模相对较小但都是极其优秀的人才...

Dario Amodei: 即使有些公司的规模是我们的 10 倍,拥有的优秀人才数量也比我们多一倍,但当这些优秀人才相互协作时,总会产生一种独特的化学反应。当你雇用一位工程师或研究员时,他环顾四周,发现其他所有人都和他一样才华横溢。这一直是我们的理念所在,我认为这也是优秀人才选择 Anthropic 的原因。第二点是我们的价值观,以及我们对这些价值观的真诚表达。从一开始,认真对待安全和社会影响这些问题就对我们而言至关重要。诚然,确实有几家公司公开表示他们很重视这些议题,也确实做出了一些具体努力,对此我表示赞赏。但随着时间推移,我和我的联合创始人离开了原来的雇主,选择了我们自己的方式,而他们也有他们的做法,其他公司也有其他的方式。这些差异逐渐显现出来。你能看到公司们做出承诺,也能看到这些承诺最终的落实情况。你也能从他们内部员工对这些承诺的态度中看出端倪有些事情虽然不会公开,但你能从他们的行动或"用脚投票"的方式看出来。我认为这一点非常重要,真正践行这些价值观,让它们成为实质内涵而不是营销噱头,是至关重要的。多家公司的内部人才也能分辨出谁是真正在践行,谁只是在说说而已。我认为人才最终的流向我是个乐观主义者或许能体现谁是真正认真在做的。

主持人 : 我们时间不多了,但我还有很多想讨论的内容。我还是想谈一下监管问题。另外,我注意到你昨天没有出席那个就职仪式...那么您对这个问题是怎么看的呢?

Dario Amodei: 我是这样认为的:Anthropic 与其他一些参与者略有不同。我经常这样表述,Anthropic 是一个"政策参与者",而不是一个"政治参与者"。政治参与者会考虑:"我会受到哪些政治力量的影响?我要如何确保我想做的事不会被反垄断法案阻碍,或不会被某些法规限制?"这是他们的思维方式。而我们更关注的是全球 AI 产业格局,并且有自己的一套看法和政策主张。也许某一天我们会正式发布一份政策纲领,阐述我们认为应该采取的措施。例如:如何应对中国并保持领先优势;如何通过适当的测试与评估来应对我们自己的 AI 系统可能带来的风险;以及我们之前讨论的一些经济问题。

我们的立场是:我们对这些议题有自己的观点,我们会向任何愿意倾听的人解释这套立场。我们会与拜登政府沟通我们的看法,也会与特朗普政府沟通,比如在对华问题上。我曾与马特波廷杰(Matt Pottinger)一起撰写过一篇专栏文章,他曾是第一届特朗普政府的副国家安全顾问。这么做就是想表明,在政治派别的不同区间以及整个行业内,像出口管制这样的问题实际上存在共同利益。因此,您会看到 Anthropic 并不急于对任何一方表示效忠。Anthropic 有一套我们认为"如果每个人都了解实际情况就应该获得两党支持"的政策立场,因为这些议题本身极其重要且关键。某些政治人物可能对这些立场支持程度有所不同,但这对我们来说并不重要。我们会与所有人沟通我们的政策主张,因为如果这个问题处理不当,社会就会走向不好的方向。而且迟早...如果我们错了,那么我们的政策主张就不成立;但如果我们是对的,那么再过两三年就会明显显现出来。

比如,也许确实需要某些针对劳动力的经济政策;也许我们确实需要对模型进行安全风险的测试和评估;也许,就像即将卸任的国家安全顾问杰克沙利文所说,我们在对华竞争中必须保持领先,这也是出台某些出口管制措施的原因。如果这些判断是正确的,那么历史会证明我们是对的,而且会很快得到证明,比如在本届总统任期内。所以我们的做法就是:向所有人传达我们认为正确的政策,并逐步使其公开化。无论人们的意识形态如何,无论他们现在支持或反对什么,只要我们是对的这是关键那么一两年后就会显现出来,届时大家会发现我们站在了正确的历史一边。这就是我对政策的思考方式。

主持人 : 那您对今早推翻行政命令的决定有何看法?

Dario Amodei: 说实话,那道行政命令实际上并没有做太多事情。它更像是一个起点。我们总体上是支持的,因为它要求在训练大型模型时需要提交信息报告,我认为这很合理。国家安全系统应该了解各公司的具体工作。这对我们来说也没有造成太大负担,对 Anthropic 而言大约只需要一两个工作日的时间。它也不是什么复杂的监管方案,实际上它根本不是一个完整的监管体系。所以总的来说,我支持这个行政命令,但它的影响相对有限,只是一个小规模的尝试。

对我而言,更重要的措施有两点:首先是对华出口管制以及防止芯片走私。这也是我和波廷杰在专栏文章中讨论的重点。我认为这(对华出口管制)是至关重要的存在性问题。我们才刚刚开始看到这些模型对军事情报的价值。从应对自身模型风险的角度来看,在与中国的竞争中保持领先尽管这越来越困难实际上能为我们争取缓冲时间。如果我们没有保持领先,就会在这场国际竞赛中陷入两难境地:"如果我们为了降低自己模型的风险而放慢 3 个月,中国就会赶上。"我们不希望陷入这种处境。此外,我认为内部测试和评估也很重要。我们与一些 AISIs 机构合作进行了内部测试和评估。我认为这些工作至关重要,而且我们看到两党都支持在新一届政府中继续保留这些工作。这些主要是对模型的国家安全风险进行测试,这应该是一个能获得两党支持的议题。不过也出现了一些误解,比如有人认为这种测试与多元化公平(DEI)有关,但实际并非如此。这些 AISIs 机构并不是关注 DEI,而是专门测试国家安全风险。我们需要继续开展这方面的测试,我也看到了两党对此的支持。

谈AI完成工作量主持人 : 您刚才提到"在 Anthropic 这只需要一个人一天的工作量",我想问一下,你们内部是这样衡量工作的吗?你们会不会称之为"一个 Claude 天"之类的?毕竟随着 Claude 做的事越来越多,它也能帮助人们做更多工作。你们是否用这种方式来思考问题?

Dario Amodei: 我们确实会这样想,"这里有一部分是人来做,一部分是 AI 模型来做,两者在很多方面是互补的。有一定数量的计算资源,也有一定数量的人力。"我认为整个经济都要开始采用这种思维方式。我在《Machines of Loving Grace》一文中提到过"对智力的边际回报"这个概念。经济学家会讨论对土地、劳动、资本、技术的边际回报,而我认为我们也应该开始讨论对"智力"的边际回报。有些任务,智力能提供很大帮助;另一些领域,可能存在物理限制或社会限制,智力的作用就比较有限。因此我认为这种思考方式不仅会在 Anthropic 内部越来越普遍,也应该在全球范围内得到更广泛的应用。

主持人 : 亚马逊最近给你们投资了 40 亿美元,这是众所周知的。据我所知,你们还筹集了更多资金,可能达到 20 亿美元。您能确认这个数字吗?是这样吗?

Dario Amodei: 我......我无法透露任何关于正在进行的融资的具体情况。不过如果你把我们所有已公布或报道过的融资金额加起来,总数确实已达到"数十亿美元"这个量级。如果我们把视角放宽一些......你问我,"你们是如何与这些科技巨头合作的?是他们主导,还是你们主导?"我想说,一方面这些合作关系本身是合理的,因为我们需要大量的计算资源,而且需要预先投入大量资金来训练这些模型。在实际部署时,这些模型通常也是在云端部署的,因为云端能够提供安全标准。所以从经济角度看,这种合作是有意义的。但我们的独立性对我们来说也至关重要。因此我们同时与多家云服务提供商合作,比如我们既与亚马逊合作,也与谷歌合作。每次与这些云服务提供商签订合同时,我们都会确保遵循"负责任的扩展政策",这是我们关于如何测试、处理和保障新模型安全的一套原则。每次我们与云服务提供商合作、签订新协议时,我们都会确保在云端部署这些模型的方式符合我们的"负责任的扩展政策"。这实际上会产生连锁反应,比如促使这些云服务商开始更快地接受类似的政策。所以我将这称为一种"向上竞争"的范例:我们树立一个标杆,然后其他公司也可能跟进采取一些积极的措施。

主持人 : 好的,我再问最后一个问题。这也是很多人经常问到的,我们一直在谈论 AI 将如何进入职场。对那些即将在 AI 时代开始职业生涯的年轻人,您有什么最好的建议?即使是还在上高中、大学的学生,应该做些什么准备?

Dario Amodei:我有几点想说。第一点是显而易见的:要学会使用这些新技术。在变化如此之快的时代,能够跟上节奏的人会比跟不上的人处境好得多。第二点,可能是最重要的要培养批判性思维能力。现在 AI 系统能够生成各种极其逼真的解释、图像、视频,信息生态似乎被彻底搅乱或颠覆了。要分辨真伪需要付出极大努力。现在更像是一个"丛林",而不再是一个"被精心策划的环境"。我担心 AI 的某些方面可能会让这种状况更加恶化。所以我们一定要训练自己去审视、质疑:"这个说法合理吗?是真实的吗?"你去 X 平台上看看,很多内容有十万点赞,但你看了会觉得,"这太离谱了,完全说不通。"然而过去那种"被策划好的信息环境"已经不复存在。我们必须让当下这个自由的"信息市场"能在某种程度上最终"收敛"到真相。我认为批判性思维技能在这里将变得尤为重要。同时,我也希望我们能够利用 AI 来帮助培养这些批判性思维技能,而不是进一步破坏信息环境。

来源:官方媒体/网络新闻

编辑:深思

主编:图灵

赞助本站

相关内容
AiLab云推荐
展开

热门栏目HotCates

Copyright © 2010-2025 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港