划重点：
1
相对于讨论人工智能引发灾难的概率，我们更应该关注如何避免人工智能带来的灾难。
2
人工智能不会抢夺人类的工作，未来每个人可能都会拥有一个由人工智能驱动的完整公司。
3
未来计算双语人才不再适用，更看好人形机器人，人工智能会帮助人类完成所有计算工作。
4
目前是AI领域创业最佳时机，机会堪比互联网、移动计算时代，初创公司拥有速度、迭代和周期优势。
科技新闻讯5月6日消息，据国外媒体报道，继OpenAI首席执行官萨姆奥特曼（SamAltman）在斯坦福大学进行演讲后，随后又从硅谷横跨美国来到麻省理工学院，与该校校长莎莉科恩布鲁斯（SallyKornbluth）共同探讨了人工智能的未来发展。
奥特曼在访谈中谈到，OpenAI在做的是“人类用的工具”，不是在创造生物；而人类充满偏见却往往不自知。人工智能是人类科技树上的新工具，人类没必要害怕超级智能的人工智能，每个新模型的缺点也是它们持续迭代的动力。
双方还从人工智能监管的角度对创业、就业的影响进行了讨论，奥特曼认为在接下来很长一段时间里，都是初创公司的最好时机。就具体行业而言，奥特曼表示自己最关注人工智能对健康和教育领域的影响，对金融领域的思考并不多。
以下为访谈内容全文：
主持人麻省理工学院董事会主席马克戈伦伯格（MarkGorenberg）：感谢你们两位的到来！我可能无需再介绍你们二位，但从活动流程的角度出发，我还是需要简述一下。科恩布鲁斯于2023年1月1日当选麻省理工学院第18任校长，她在杜克大学的18年工作经历为她赢得了声誉。她是一名出色的管理者，一名创造性的问题解决者，一名优秀教师和学生福利的主要倡导者。在麻省理工学院的第一年，她也在关注人工智能技术，证明了麻省理工学院为确保人工智能广泛造福社会所做的努力。
奥特曼是一名企业家，一名投资者，一名程序员。他在2015年共同创立了OpenAI，目前担任该公司的首席执行官。OpenAI是一家人工智能研究和部署公司，其使命是确保通用人工智能造福全人类。山姆和莎莉，谢谢你们来到这里！现在轮到你们二位了！请开始你们的对话活动。
科恩布鲁斯：非常感谢！我应该说，我认为这是我来到麻省理工学院以来见过的最受欢迎的活动。我问的问题是由学生提交的，并经过整理和策划，但这确实反映了我校师生的好奇心和对你访问我校所展现出的好奇心。按照《纽约时报》科技专栏作家凯文鲁斯（KevinRoose）和其他人的一些观点，你的“末日概率”（probabilityofdoom，简写为P(doom)）是什么？这是一个常见的破冰问题。你们大多数人可能都知道，“末日概率”指个人认为人工智能可能带领人类走向末日的机率，指标的范围从1到100。数字越高，就越强烈的认为人工智能会消灭所有人类并导致世界末日场景的出现。所以山姆，让我们开始破冰。你的“末日概率”是什么？
奥特曼：我认为这是一个糟糕的问题，我很高兴我没有冒风险谈论过这种问题。对人们来说这是一种很好的方式，听起来很聪明和重要，就好像我和其他任何人一样喜欢对数字发表意见。我认为这个问题表述不太恰当，问题假设了一种静态的系统。虽然我自己也乐于对数字进行长篇大论。但不管这个数字是2、10、20或90，关键点在于它不是0。讨论灾难概率虽然能激发深思，但相比之下，我们更应该关注如何避免灾难，确保我们能安全、积极地面对未来。
科恩布鲁斯：你在人工智能行业已工作多年。现在你对人工智能的看法与十年前有什么不同？五年或十年前，你是否期望人工智能GPT会变得像现在这样强大？
奥特曼：老实说，我仍然认为它不是很好。我认为我们会把它做得很好，但我们面前有大量的工作。我想十年前我可能对人工智能有一个更天真的概念，那就是这种技术能够自行解决问题，或者这种神奇的超级智能会想办法解决问题，给我们带来泼天的富贵，我们只需要考虑如何生活。但这一切都有点令人困惑。现在，我认为人工智能更像其他技术革命一样，希望它能够给人类带来最大、最好、最重要的好处。我们的人类科技树上有了一款新工具，人们正在使用它来创造惊人的东西。我认为随着时间的推移，人工智能将变得更有能力和更自主。即使是这样，我认为它也会以一种重要的变革方式融入社会。假设十年前你问我通用人工智能在明天成为可能，后天会发生什么，我当时会说真的无法想象，这是绝对的奇点转换（transformationsingularity）。现在所有的事情都突然不同了。我现在认为，情况根本不是我十年前想象的那样。
科恩布鲁斯：所以你认为在某种程度上你是乐观的，但是你不能以任何一种方式把自己放在当前的时刻。我不知道是乐观还是悲观？
奥特曼：我的意思是，有些方面太乐观了，同时也太悲观了。如果我们开发出的东西像这里所有超级聪明的学生一样聪明，那是一项了不起的成就。从某种意义上说，世界上已经有很多像这样聪明的人了。也许事物的发展会变得更快，也许生活质量会提高，也许经济周期会加快一点。如果科学发现的速度比现在快十倍，我不知道那时我们生活在其中会有什么不同。
科恩布鲁斯：你讲得非常有趣。只要后退一点，看看当前的模型，思考ChatGPT等人工智能系统，你认为从系统中消除偏见有什么必要性？能否举一个例子来思考当今人工智能系统中的偏见问题，以及我们该如何思考未来的发展？
奥特曼：我认为我们在如何调整系统，根据特定的价值观行事方面取得了令人惊讶的进展。尽管人们喜欢谈论这个问题，并说你不能使用这些东西，因为它们在散播有毒的内容。GPT-4的行为有点像你希望的那样并且相当好，我们能够让它遵循一组给定的值。
现在更难的问题是由谁来决定偏见的含义和价值观的含义，我们如何决定系统应该做什么，以及社会定义了多大的边界。作为一名用户，我们信任你使用工具，但不是每个人都会以我们喜欢的方式使用它，这就是工具的使用情况。我认为给人们很大的控制权来控制他们如何使用这些工具非常重要，即使这意味着他们可能会以我们不喜欢的方式使用它们。但是有些事情是系统不应该做的，我们必须集体协商。
科恩布鲁斯：能否可以让模型的偏见比我们人类更少？
奥特曼：人类本身就是充满偏见的生物，但往往并不自知。像GPT-4或之后的GPT-5这样的模型不会存在人类一样的心理缺陷。虽然它们不完美，但总的来说，我这些系统会比人类表现得更公正。
科恩布鲁斯：除了偏见之外，隐私问题对许多人来说是一个很大的问题。我们如何在用共享数据训练人工智能模型时保护个人隐私？
奥特曼：我可以想象这样的未来，如果你愿意，你可以拥有一个个性化的人工智能，它可以阅读每一封邮件，每一条短信，你发送或接收的每一条信息，可以访问你生活的完整记录，知道你看过的每一个文件，每一个电视节目，你读过、说过、听过或看过的所有东西，比如你输入和输出的所有信息，你可以想象这将是一件非常有用的事情。
你也可以想象这所带来的隐私问题。如果我们坚持这个框架，而不是说人工智能应该能够在这些数据上进行训练，但我们如何在隐私与效用和安全之间进行权衡，或者随之而来的安全权衡，这意味着什么？我们是否需要一个新的特权信息的定义，防止个性化人工智能在法律上被用于不利于我们的情况。我不知道答案会是什么，也不清楚大多数人会做出什么样的权衡。我们使用的服务都会牺牲一些隐私来换取效用，但人工智能可以发展的非常快，我们不得不协商所有这些事情。透过隐私我们如何看待在线广告？当你把它们和人工智能结合起来时，我认为我们将要开始真正面对的更高的风险和更大的权衡。
科恩布鲁斯：我知道这很有意思，在个人控制的程度方面也是如此。换句话说，当你谈论聚合数据时，当你再次谈论更高风险时，健康记录数据等是非常好的例子。我们能在多大程度上融入某种个人能力，以此来设定这个滑动标尺？你愿意在训练中获得多少信息？
奥特曼：我认为在这种情况下，我们希望通过GPT-5或GPT-6得到什么，如何让它们成为最佳的推理引擎目前而言，能达到最佳引擎的唯一路径就是用海量的数据对它们进行训练。在这个过程中，我们学到了一些关于如何进行非常有限的推理或认知。但它可以记忆数据的，能够在参数空间中存储数据。回头来看，这有点像是一种奇怪的资源浪费。诚然，GPT-4能够像数据库一样工作，但是它的推理速度很慢、成本高昂且效果不尽如人意，这不是我们真正想要的，因为这是我们制作推理引擎模型的唯一方法的副作用。现在推理引擎拥有所有这些其他的属性，但我假设在某个时候我们会想出如何把推理引擎从所有需要的海量数据中分离出来，我们就能够把推理引擎作为独立的东西来对待。
科恩布鲁斯：关于开源的问题，外界有许多关于OpenAI的讨论，称贵公司并没有真正开放。你曾经说过，它可能不是完全开源的，它在其他方面是开放的。能对此多说一点吗？
奥特曼：我们让数亿人可以使用一款伟大的免费人工智能工具，希望将来有数十亿人会使用它。我们不做广告。我们只是像做公益一样做这件事，因为我们认为把这个工具交付到人们手中很重要。我们希望它可以广泛使用，非常容易使用，非常有帮助。我认为这是一件很酷的事情。
科恩布鲁斯：当谈论起人工智能如何融入我们的日常生活这个问题时，事实上它一直在不断发展。我们大多数人可能还记得第一次看到ChatGPT的时候，我们当时会发出感慨：“天哪！太酷了！”现在我们尝试思考下一代模型会是什么样子。你知道下一代模型会是什么样子吗？
奥特曼：在GPT-4发布的前两周，人们都感到震惊，并认为它超级酷。到了第三周，人们都表示已经厌倦了等待，希望看看GPT-5是什么样子。确切地说，我认为这表达出人类的期望和奋斗是合理而伟大的，以及为什么我们都喜欢继续让事物变得更好。我认为，今天出生的婴儿永远不会了解一个没有智能产品和服务的世界，也将永远不会了解一个认知不充分的世界。所以我认为这就像人类对现状的不满，以及对世界应该每年都变得更好的期望。我认为这非常好。
科恩布鲁斯：在过去的一年中，人工智能和数据中心的新电力需求被认为是一个环境问题，同时许多人谈到人工智能辅助和脱碳问题。你如何看待人工智能对气候的影响，和它有可能帮助我们应对气候变化的影响之间的矛盾？
奥特曼：我会具体地回答这个问题。更一般来讲，人工智能确实需要大量的能源，但相对于世界上其他产业的需求而言并不多。如果我们耗费全球1%的电力来训练强大的人工智能，人工智能就能够帮助我们找到非碳基能源或更好地进行碳捕获，这将是一个巨大的胜利。即使我们没有这样做，如果我们花在人工智能上的那百分之一的电力让人们生活得更好，这也值得我们这么做。
我曾经读过一篇关于谷歌使用算力的文章，它把通过谷歌获取信息与与人们过去开车获取信息所消耗的碳排放量进行了比较。有人就此说，谷歌太可怕了，我们应该关闭它，因为它消耗了太多的电能。这纯粹是一个智商问题，完全不正确。
举例来说，通过互联网进行远程会议本身就是一种节约。所以对人工智能来说，它将需要很多能量。我们将继续找出更有效的方法，更有效的算法，结合获得的芯片，我们要为这些东西提供电力，所以我认为解决这个问题很重要。
我认为解决这个问题很重要，但我们会以所有奇妙的方式解决。我认为这也指向了另一个问题，也就是你开始提到的“末日概率”。我认为我们教育年轻人的方式就像是世界已经完蛋了，试图解决问题没有任何希望，我们所能做的就是坐在卧室里，在黑暗中思考我们有多糟糕，这非常没有成效。
我希望麻省理工学院的学生与其他许多大学能够有所不同，但你们都需要把它作为你们人生使命的一部分，坚信明年孩子将过上更好的生活。总会有人想坐在那里说，我们不应该开发人工智能，因为我们可能会燃烧更多的碳，或者因为我们还没有完全解决偏见问题。几年后我们会发现，我们在这两方面都有很大的进步。反进步倾向的人应该有很好的生活，他们通常是那些一开始就有很多特权的人。
科恩布鲁斯：我刚从外校来到麻省理工学院。我校的核心精神是指出问题并找出解决问题的方法。很高兴你能够来到我校。当我们想到人工智能的成本时，你说的另一件事真的打动了我，这不仅仅指资金成本，还包括气候和其他方面。OpenAI开发专门影响科学和工程的工具吗？或者你们会更专注于商业和消费者应用？
奥特曼：当然，我们打算这么做。我个人认为我最感兴趣的是我们如何利用人工智能来提高科学发现的速度。我相信这是人类进步的核心引擎，也是我们推动经济可持续增长的唯一途径。我们之前谈到人们不满足于GPT-4，希望GPT-5能够问世。他们希望事情变得更好。每个人都希望越来越好，而更快和科学是我们实现这一目标的途径。在人工智能将实现的所有伟大成就中，我个人对我希望它将对科学产生的影响最感兴趣。也就是说，这一切可能比我们想象的更加一维。如果我们开发出一款伟大的人工智能工具，可以帮助人们解决他们面前的任何问题，可以帮助人们以新的方式进行推理，这对消费者而言非常好，对科学家、企业、教育来说也都是好事。通用人工智能时代的到来可能是令人惊讶的一件事。
科恩布鲁斯：就像开着你的旧车去图书馆一样，很多创造性的部分仍然是人类的。但是把很多知识的聚合作为起点，通过预先向人工智能提出几个关键问题，真的可以加快进程。
奥特曼：我认为如果我们能看到每个人在未来10年或20年能做什么，这将使如今的我们感到非常惊讶。这就像是在几年后，我们每个人都有一个伟大的参谋或博士生，帮助我们优化自己，做我们最好的工作和最好的想法等。然后可能在某个时候，就像我们每个人都有一个完整的公司，里面都是各方面的优秀专家，他们一起工作非常有成效。
科恩布鲁斯：在我们的观众当中，有很多年轻的研究人员或渴望成为年轻研究人员的人，你对他们有什么样的建议？你提到了思考可能性，而不是坐在黑暗的卧室里，我认为这是一个很好的基本建议。你还想对观众说些什么？
奥特曼：首先，我认为这可能是几十年来最激动人心的时刻，也许还是有史以来最激动人心的时刻。不管是什么，这真的是一件大事。我认为你们可以比平时承担更多的风险。即便是你们从事的事业没有成功，在很长一段时间内仍会有惊人的机会出现。我认为你们比一般人更有影响力，所以有溢价。这是一个需要你们非常努力工作的时期，我肯定会偏向于用人工智能做一些事情。总体而言，在你们职业生涯的早期要学习的最重要的课程是你可以想出任何事情，没有人在开始时就有所有的答案，但是在磕磕绊绊地前进，它就有很快的迭代速度。你们应当尝试去解决最感兴趣的问题，和最令人印象深刻的人在一起，并相信你会不断迭代到正确的事情。学习这门课程需要一段时间，但它会让你知道它在运转，让你真的开始信任它。我认为它比表面上听起来要深刻得多。决定如何分配时间以及如何努力引导事情的指导原则对我很有帮助。
科恩布鲁斯：我认为这是追随你的激情。你也从你画的一幅有无限可能性的世界的画中知道，你不能总是对你认为对你有好处的事情这么有策略，你想做一些想象所有这些可能性并追随这些激情的事情吗？
奥特曼：对我来说，激情这个词不太恰当，它更像是我工作的道德义务，然后是我不开心的糟糕日子。不知何故，它比我最喜欢做的有趣的事情更能激励我。
科恩布鲁斯：麻省理工学院文化的真正核心部分是企业家精神，所以我们有许多有抱负的企业家。你如何看待在今天的生态系统中建立成功的公司？新的创业公司应该把精力集中在哪里？
奥特曼：我再次认为目前是创业的最佳时机，特别是在很长一段时间内，创业公司往往会在大平台转移的时候取得成功。大公司比初创公司更慢，且缺乏创新性。相比较而言，初创公司在当前拥有速度、迭代和周期优势，以及其他许多优势。目前就像是互联网、移动计算、云服务当年刚出现的时候一样。然后再剩下的很长一段时间，比如十多年来我们一直在等待，我认为现在我们终于有了一个新的平台。以史为鉴，我认为目前将是创业的最佳时间段。创办一家初创公司，你们的优势是可以走得更快，可以比那些有季度、年度或其他规划周期的大公司更好地适应未来，这就是你获胜的方式，我认为现在就是创业的好时机。
提一点忠告，对于任何新的技术平台，它们总是可以推动惊人的短期增长。对于人工智能创业公司而言，就像以前的移动初创公司和互联网初创公司一样，我们还没有建立一个持久性的业务，而是建立了这种新奇的东西。这有点自欺欺人，因为神奇的技术让初创公司得到了惊人的快速增长。尘埃尚未落定，神奇新技术并不能让初创公司摆脱商业定律，你们仍然必须想办法建立某种转换成本，与客户建立起关系。随着时间推移，这种复合优势能够让你们脱颖而出。在淘金热时期，我认为处于危险中的初创公司往往会忘记这一点，所以你仍然必须像经营企业一样完成所有工作。这的确是我认为非常重要的建议。
科恩布鲁斯：像ChatGPT这样的技术可能会在哪些方面威胁或帮助未来的工作?它如何帮助人们未来的就业?
奥特曼：从事人工智能工作的人最让我恼火的一件事是，当他们站起来，面无表情地说：“哦，这永远不会导致任何工作岗位的减少，这只是一个附加的事情，这一切都将变得很好，这将减少许多现有的工作岗位，改变许多现有工作岗位的运作方式，创造出全新的工作岗位。”技术的发展可能从来没有这么快，虽然社会的惰性可能会比我们想象的要慢，我有点期待我们只需要一两代人的时间，就能第一次看到人工智能技术对真实经济的影响。
有观点认为人工智能将会让一些职业消失，但技术革命也会创造新的职业机会。人工智能会改变很多工作的性质，并带来全新的职业类别。这种变化需要时间来显现其经济影响，好的或坏的，都将是我们可以实际测量和感受到的。在某种程度上，我确实觉得这次有所不同；就速度而言，我真的认为会有所不同。我有些担心我们能多快适应这种变化，但我并不真正担心我们最终能否适应这种变化。社会契约将会改变，我相信未来的大多数工作将会与现在不同。在我看来，人类的深层驱动力似乎并不会消失。
科恩布鲁斯：你的回答非常有趣且明显。不同的工作类别肯定会受到不同的影响。拜登总统最近关于人工智能的行政命令以及关于人工智能监管的国会听证会传递出令人担忧的信号。我们正处于支持创新和竞争，同时确保新兴参与者能够开拓下一个变革性技术的关键时刻，监管框架可能会巩固现有参与者的地位，扼杀创新竞争。你如何设想人工智能监管？
奥特曼：我认为我们面对的是其他种类的监管。比如你在杂货店买的食物不太可能让你生病，我们都同意那里的监管是好的；你希望能够在后院种植食物，而且绕开一堆审批手续，你也可以这样做。我认为对于人工智能系统而言，会有一个阈值，超过这个阈值，我们会说：“好吧，这个系统会带来一定程度的风险。如果没有合理的安全预防措施，我们不想冒这个风险。”完全不监管人工智能的想法虽然存在，但最终还是要通过民主进程来决定。我完全有冲动说任何监管行动都是不可接受的，因为只有大公司会利用它。如果社会决定我们根本不想监管人工智能，我们只会碰碰运气，接受民主进程的结果。如果这个问题的框架是正确的，那么在我看来，不要出于恐惧而行动，而是在合理的范围内谨慎行事是有益的。
科恩布鲁斯：麻省理工学院的教育重点之一，是培养未来的领导者成为计算双语人才。这意味着无论他们选择什么领域，都需要精通计算机科学和人工智能，以推进他们的工作。能否评价一下我们的这种理念？
奥特曼：我对计算历史的一个一般观察是，随着时间的推移，它变得越来越容易理解，越来越自然。就像人们很擅长用语言作为使用计算机的一种方式，你可以问一些问题，也可以问给计算机编程的方式，所以你看到这些事情就像汇聚到一个界面，你不必再掌握计算双语。你可以用同样的方式和一个人说话，可以和电脑交谈。我认为这是一件比表面上听起来更深远的事情。我们可以推动人工智能和人拥有相同类型的界面，所以我对人形机器人比对其他形式更感兴趣，因为我认为这个世界是为人类设计的，我们应该保持这种方式。我们希望机器人带来好处，它可以帮助我们，我认为我们希望人工智能系统能够认知和用语言与我们交流，这是一件非常人性化的事情，所以我希望我们不一定都是计算双语人才。
科恩布鲁斯：你认为人工智能将如何影响金融领域，特别是银行和股票市场？你是如何考虑的？
奥特曼：我没有像我希望的那样关注任何特定领域的问题，因为弄清楚如何获得通用人工智能以及它意味着什么非常耗费精力。就像教育和医疗保健一样，可能是我想到的两个特定领域。就金融系统而言，我预计人工智能对该领域的影响会和其他领域一样，但我没有什么深刻的见解，能够说明金融领域将如何转变。
科恩布鲁斯：许多人担心人工智能会给课堂教学构成影响。但我真的认为，人工智能对我们如何教学，以及如何为个人量身定制受训课程等方面有巨大的潜力。你对此有何高见？
奥特曼：正如你所看到的那样，已经有学生使用GPT-4来充当家庭教师。随着人们开始采用下一代模型，并根据学习体验对其进行定制，我们将处于一个非常好的位置，看到人们已经在构建的东西，感觉非常棒。听到老师讲述对学生的影响是很好的。听到学生讲述他们自己正在学习的东西也是很好的，但这似乎是一种很好的使用方式。
科恩布鲁斯：当你雇用某人时，你会寻找什么？在座的有些人会非常好奇。
奥特曼：我们非常希望收到你们的求职电话，我认为这可能是我们历史上最激动人心的时刻，所以现在是给我们打电话的好时机。有些显而易见的东西，比如有创见的思考者，聪明的有献身精神的人，有些人特别喜欢从事人工智能研究，总有一群人会从事高领域的工作。（编译/无忌）
