文：天空之城城主
小扎6月9号出来做了一次160分钟的深度访谈，以下是这次深度访谈的分章节全文整理（4w字视频脚本稿）。
章节：
柔术比赛
人工智能和开源运动
AI模型发布和未来的MetaAI
自动Bot机器人
内容审查
Meta新社交app项目
Elon Musk马斯克
Meta裁员和招聘
Meta Quest3
苹果的Vision Pro
AI安全性风险
权力
AGI超级智能
Murph 挑战
柔术比赛
所以你参加了你的第一次柔术比赛，而作为柔术练习者和竞争对手的我，考虑到你所经历的一切，我认为这真的很鼓舞人心。所以我想问一下，那是一种怎样的体验？
哦，很有趣。看，我是一个很有竞争力的人。
做基本上需要你全神贯注的运动，我认为这对我的心理健康和我专注于做我正在做的每一件事的方式非常重要。所以我决定学习武术，这很棒。我有很多朋友参与其中。我们都一起训练。我们的车库里有一个迷你学院。我想我的一个朋友说，嘿，我们应该去参加比赛。我当时想，好吧，是的，让我们开始吧。我不会回避这样的挑战。所以是的，但这太棒了。这很有趣。
你不害怕吗？有没有恐惧？
我不知道。我很确定我会没事的。我喜欢自信。
对于不了解的人来说，柔术是一种武术，您可以在其中以优雅、优雅、高效等方式打断对手的四肢或让他们窒息入睡。这是一种艺术形式，我认为，你可以终生从事。它基本上是一种游戏，一种你能想到的人类象棋运动。有很多策略。使用杠杆和所有类似的东西有很多有趣的人类动态。
你能做的事真是不可思议。你可以做一些事情，比如一个小对手可以打败一个大得多的对手，你会因此了解人体力学的运作方式。
但你当然不能分心。
不，它是100%的焦点。我需要克服这样一个事实，即我不希望它成为这么大的事情。所以我基本上只是戴着帽子和太阳镜，戴着COVID面具，用我的名字和中间名注册，所以Mark Elliott。直到我在上垫子之前真的把所有的东西都拉下来，我想人们才知道那是我。所以这是非常低调的。
但你仍然是公众人物。
是的，我不想输。
你部分害怕的不仅仅是失败，而是几乎像尴尬一样。这项运动是如此原始，因为它只是你和另一个人。那里有一个原始的方面。
哦，是的，太棒了。
对于很多人来说，这可能是可怕的，尤其是当你第一次参加比赛并且它不适合你时。我看到你脸上兴奋的表情。
是的，我不知道。不是，没有恐惧。我只是认为学习的一部分是失败的。
主要的事情，就像训练柔术的人一样，你不需要骄傲，因为你之前谈论的所有事情，窒息或关节锁，如果你已经输了而不愿意打击，你只会陷入糟糕的境地。而且，但很明显，当你开始做某事时，你不会立即成为这方面的专家。所以你只需要愿意接受它。但我觉得这是个什么样子，我不知道。也许我这辈子尴尬的次数已经够多了。
我确实认为有些事情随着人们的成长，也许他们不想感到尴尬或其他任何事情。他们已经建立了他们的成人身份，并且他们对自己是谁以及他们想要投射什么有一种感觉。我不知道，我想也许在某种程度上，你继续做有趣事情的能力是你愿意再次感到尴尬并回到第一步，从初学者开始，让你的屁股被踢，做事看起来很愚蠢。
而且，我认为我们正在做的很多事情，无论是这个，这就像是我生活中身体的一部分，但在经营公司时，我们只是接受新的冒险，我们正在做的所有大事，我认为就像我们正在进行的10年多的任务，通常在早期，人们怀疑我们会能够做到这一点，但最初的工作似乎有点愚蠢。
我们的整个精神是我们不想等到完美的东西才把它放在那里。我们想尽快发布并获得反溃我不知道，可能只是关于我如何处理那里的事情，但我只是觉得当你决定你会因为太尴尬而无法尝试新事物的那一刻，那么你就是不会再学到任何东西了。
但就像我提到的那样，那种恐惧、那种焦虑可能会存在，它可能会不时地蔓延开来。您是否觉得在特别紧张的时刻有点超出判断力，只是在工作中？压力时刻，重大决策日，重大决策时刻。
你如何应对这种恐惧？你如何应对这种焦虑？
最让我感到压力的事情总是人们面临的挑战。
我有点认为战略问题，我倾向于对我们正在努力做的事情、我认为重要的事情以及我希望我们公司代表的价值观有足够的信念，这些并没有让我彻夜难眠。我有点，并不是我做对了一切。我当然不知道，我们犯了很多错误，但我至少非常清楚我希望我们继续前进的方向。
在经营一家公司近20年的过程中，很明显的一件事是，当你拥有一个有凝聚力的团队时，你几乎可以完成任何事情。而且你可以跑过超难的挑战，你可以做出艰难的决定，甚至努力去做最好的工作，并且把一些东西优化得非常好。但是，当存在这种紧张局势时，事情就会变得非常艰难。
当我与经营其他公司的其他朋友交谈时，我认为我在经营这家公司时实际花费很多时间的一件事就是培养一个非常紧密的核心团队，他们正在经营陪我对我来说，这两者都很有趣，有朋友和你一起工作了一段时间的人，还有新朋友和新观点，但就像一个非常紧密的团队，你可以和他们一起做一些疯狂的事情。
但对我来说，这也是最有压力的事情，当有压力时，它会压在我身上。我想这也许并不奇怪。我们就像一家非常以人为本的公司，而人是其中对我影响最大的部分，以确保我们做对。但是，是的，我想说的是我们所做的一切可能都是大事。
所以当亲密圈子里的人关系紧张时，所以当你信任那些人时，帮助您做出有关Facebook的艰难决定，WhatsApp、Instagram，公司的未来，以及带有AI的元宇宙，你如何建立紧密联系的人群，做出那些艰难的决定？
是否有人认为您必须发出批评的声音，关注过去与未来的截然不同的观点，诸如此类？
是的，我认为一方面，只要花很多时间与你想成为核心团队的任何团队在一起，应对所有最大的挑战。这需要相当程度的开放性。所以我经营公司的很多方式就像每个星期一早上，我们大约是前30名的人在一起。这是一个合作了很长一段时间的团队。人们轮换，新人加入，人们离开公司，人们去公司担任其他职务。所以随着时间的推移，它不是同一个小组，
我们花了很多时间几个小时，很多时间，可能有点松散。就像我可能会提出一些我最关心的话题，但我会请其他人带来一些东西，人们会提出问题，好吧，某些国家/地区正在发生一些政策问题。好像这里正在开发一项新技术。我们遇到了这个合作伙伴的问题。在WhatsApp中，有两个最终成为我们深切关注的价值观的事物之间的设计权衡。我们需要决定我们想在这方面的位置。
我只是想，随着时间的推移，当我与人们一起解决很多问题并公开地做这件事时，人们会发展出一种对彼此的直觉、一种纽带和友情。对我来说，开发这就像经营公司或做任何事情的很多有趣部分，我认为这就像有一些人在旅途中一样，你觉得你正在做这件事。没有什么是永远只有一个人做的。
该组中是否有人经常不同意？
这是一个相当好斗的群体。
好的，所以战斗是其中的一部分。所以这是在设计、工程、政策，一切。
一切，一切，是的。
我不得不问一下柔术。
你最喜欢的技巧是什么？既然你已经做到了，你觉得如何让你的对手屈服，马克扎克伯格？首先，你更喜欢无道服还是道服柔术？道服是你穿的衣服，你可以窒息别人。
好吧，它就像一件和服。它就像传统武术或和服。嗯，它有翻领。
我喜欢柔术。我也很喜欢MMA。所以我认为无道服柔道更接近MMA。而且我认为我的风格可能更接近MMA风格。所以很多柔术选手都可以仰卧，显然，有一个好的后卫是柔术的重要组成部分，但在MMA中，你不想被压在身后，因为即使您有控制权，您也只是在仰卧时承受打击。所以那是不好的。
你喜欢高高在上吗？
我的风格是我可能压力更大。我可能宁愿成为顶级球员，但我也更小，我不像重量级人物，所以从这个角度来看，我认为，特别是因为如果我参加比赛，我会和我一样大的人比赛，但我的很多朋友都比我大。所以后退可能很重要，因为那是你最有杠杆优势的地方，人们，他们的手臂，你的手臂在你身后非常虚弱，所以能够回到后面并采取这一点非常重要。
但我不知道，我觉得正确的策略是不要对任何单一技巧过于投入。但话说回来，我不喜欢伤害别人。所以我一直认为扼流圈比关节锁更人性化。是的，更多的是关于控制。它的动态性较低。
所以你基本上就像是Habib Nurmagomedov类型的战士。
是的，回到后方裸体扼流圈，我认为这是干净的方式。直截了当的答案就在那里。
对于想开始学习柔术的人，您有什么建议？考虑到你有多忙，考虑到你在生活中所处的位置，你能够做到这一点，你能够训练，你能够竞争并从这种有趣的艺术中学到一些东西。为什么你认为你必须愿意被打很多？
随着时间的推移，我认为所有这些事情都会流动起来。
有一个，我认为我的经历之一超越了经营一家公司和我喜欢做的不同活动，
我真的相信，如果你想完成任何事情，很多事情就是愿意去完成，并具有克服困难的勇气和决心。
而且我认为对于很多人来说，最终会成为完成最多的人和没有完成最多的人之间的差异制造者。
所有这些问题都是关于，人们想工作多少天之类的。我认为几乎所有喜欢创办成功公司或类似事物的人都在非常努力地工作。但我认为，随着时间的推移，你会学到一件事，或者，柔术或冲浪等非常敏锐的东西是你无法完成所有事情。
我认为那是。您非常敏锐地学习了这些东西，与经营公司相比，做运动是因为经营公司的周期时间很长，这就像你开始一个项目，然后，就像几个月后，或者，如果你正在构建硬件，可能要几年后你才能真正获得反馈并能够，做出你正在做的事情的下一个版本的下一组决定。
然而，我只是认为这些非常高周转率的调节运动在精神上非常好，诸如此类的事情，你能很快得到反馈，好吧，就像我没有正确反击某人一样，你会被打在脸上，所以不是在柔术中，你不会在柔术中被打，而是在MMA中。
我认为实际上持有的所有这些东西之间都有所有这些类比，重要的人生课程，好吧，你正在冲浪，有时候你你不能朝另一个方向走，某种东西是有限制的，它就像一个箔纸，你可以抽箔纸并在一堆方向上用力推动，但是是的，它在某种程度上，就像反对你的势头足够强大，那是行不通的。我确实认为这是一种谦卑，但也是一个重要的教训，我认为那些正在经营或建造东西的人，是的，很多游戏只是能够善良地推动和处理复杂的事情，但你也需要有足够的理解，比如哪些事情你不能推动，以及技巧在哪里更重要。是的。
你的柔术生活课程是什么？好吧，我想你做到了，你让它听起来很简单而且很有说服力，很容易错过，但基本上没问题。接受被踢屁股的智慧和快乐，在这意味着什么的全部范围内，我认为这是谦卑的重要礼物。
不知何故，尤其是身体上的谦卑，会让你对学习的整个过程敞开心扉，学习意味着什么，也就是愿意吸取某些东西。而且我认为柔术只是非常重复，有效地让你一遍又一遍地谦卑到你可以把这些教训带到你不会那么谦卑的地方，无论是研究还是经营公司或建造东西，周期更长。在柔术中，你可以变得谦卑，在这一个小时的时间里，一遍又一遍，尤其是初学者，你会是一个小人物，有人比你聪明得多，反复踢你的屁股，明确地，没有争论的地方。哦耶。然后你真的攻击，因为如果你不攻击，你就会死。所以这是一个协议，你刚才可以杀了我，但我们是朋友，所以我们同意你不会这么做。而那种谦卑的过程，它只是对你的心灵，对你的自我产生了一些影响，将它置于适当的背景下，意识到这一生中的一切都像是一段从吸吮到艰难改进过程的旅程，日复一日严格，任何一种成功都需要努力。
是的，柔术，不仅仅是很多运动，我会说，因为我做了很多，它真的教会了你。你让它听起来很简单。没关系，这是过程的一部分，你只是变得谦虚，踢你的屁股。我一生中经历过很多次失败和尴尬，这是我的核心竞争力。这是一项核心竞争力。
嗯，是的，这是一个深刻的事实，你在一开始就说过，那就是阻止我们的事情，尤其是随着年龄的增长，尤其是当你在某些领域发展专业知识时，不愿意成为新领域的初学者。因为那是成长发生的地方，愿意成为初学者，愿意尴尬，说一些愚蠢的事情，做一些愚蠢的事情。我们中的很多人擅长一件事，你想炫耀一下，作为一个初学者很糟糕，但这是成长发生的地方。
人工智能和开源运动
嗯，说到这个，我问你关于人工智能的事。看来今年，对于整个人类文明来说，是人工智能发展有趣的一年。很多有趣的事情正在发生。因此，Meta是其中的重要组成部分。Meta开发了LLAMA，这是一个650亿参数的模型。我可以在这里问很多有趣的问题，其中之一与开源有关。但首先，你能讲讲这个模型的开发故事，以及如何做出发布它的复杂决定吗？
好，当然。我认为你是对的，首先，在过去的一年里，在扩大这些大型Transformer模型方面取得了一系列进展。因此，存在与大型语言模型等效的语言。有一些图像生成等同于这些大型扩散模型。这方面有很多基础研究。
Meta在我们的AI开发中采取了相当开放和学术的方法。部分原因是我们想让世界上最优秀的人来研究这个，而且很多最优秀的人都想知道他们将能够分享他们的工作。这是我们达成的协议的一部分，如果你是世界上顶尖的人工智能研究人员之一，你可以来这里，你可以获得某种行业规模的基础设施。
我们的部分精神是我们想广泛分享发明的东西。我们使用我们创建的许多不同的人工智能工具来做到这一点。而LLAMA就是我们研究团队做的语言模型。我们为它做了一个有限的开源版本，旨在让研究人员能够使用它。但是在这些方面的责任和安全是非常重要的。
我们不认为，对于第一个，我们是否应该在商业上发布这个有很多问题。我们在LLAMA V1的基础上做了一些改进，并发布了它用于研究。现在，很明显，通过发布它用于研究，它就在那里，但公司知道他们不应该将它放入商业版本中。
我们正在为此开发后续模型，并思考后续模型究竟应该如何运作，现在我们已经有时间研究更多的安全性和相关部分。但总的来说，这是，我只是觉得那会很好，如果有很多不同的人有能力在这里建立最先进的技术，不仅仅是少数大公司。
在哪里训练这些人工智能模型之一，最先进的模型，我不知道，只需要数亿美元的基础设施，世界上没有那么多组织，这可以在今天以最大的规模做到这一点。而且，它每天都变得更有效率。我确实认为随着时间的推移，会有更多人可以使用它。
我认为人们可以创造所有这些创新。我认为，通过了解整个学生、黑客、初创公司和不同的人用这个构建的社区，我们也会学到很多东西。这就是我们处理这个问题的方式。这也是我们完成大量基础设施的方式。我们采用了整个数据中心设计和服务器设计，并构建了这个开放计算项目，我们刚刚将其公开。部分理论是这样的，好吧，如果我们让它让更多的人可以使用这个服务器设计，那么这将带来更多的创新。它还将使服务器设计更有效率。这也会使我们的业务更有效率。这是有效的。我们刚刚用我们的很多基础设施做到了这一点。
对于不知道的人，我想你是在Llama今年2月进行的限量发行。它得到引用，泄露，这意味着它逃脱了限量发行方面。但鉴于它刚刚发布给研究人员，您可能已经预料到这一点。
我们与研究人员分享了它。是的，所以它只是试图确保有一个缓慢的发布。
是的。但是从那里，我只是想听听您对接下来发生的事情的评论，有一个非常活跃的开源社区，它只是在它之上构建东西。有Lama CPP，基本上是使它在较小的计算机上运行更高效的东西。强化学习与人类反馈相结合。一些不同的有趣的微调机制。然后还有GPT-3代的微调。有很多GPT-4、Alpaca、Colossal AI，所有这些类型的模型都在涌现，你怎么看？
不，我认为看到它真的很整洁。有人让它在本地设备上运行，如果你是一个只想尝试的人，在家里有了这个，你可能没有太多的预算来访问大量的云计算。让它在你本地的笔记本电脑上运行很不错吧？并且非常相关。
然后，是的，Llama CPP 更有效地重新实施了它。现在即使我们运行自己的版本，我们也可以用更少的计算来完成它，而且效率更高，为每个使用它的人节省很多钱。那很好。
我确实认为值得一提，因为这是一个相对较早的版本，Llama并不像在最前沿，例如最大的OpenAI模型或最大的谷歌模型。你提到我们发布的最大的 Llama 模型有 650 亿个参数。我想，除了OpenAI之外，没有人知道 GPT-4 的规格到底是什么。但我认为，我的理解是它大了 10 倍。而且我认为 Google 的 Palm 模型也是，我认为具有大约 10 倍的参数。
现在，Llama模型非常有效。因此，它们在大约 650 亿个参数的情况下表现良好。对我来说，这也是其中的一部分，因为整个辩论围绕着，世界上每个人都可以使用最前沿的 AI 模型是否有好处？而且我认为随着人工智能模型开始接近类似于超级人类智能的东西，我认为这是我们必须解决的一个更大的问题。
但现在，这些仍然是非常基本的工具。它们是，从某种意义上说，它们是强大的，许多开源软件，如数据库或网络服务器，可以实现很多非常重要的事情。但我不认为任何人看着当代的Llama，并认为它是接近超级智能的任何地方。我认为周围有很多这样的问题，走出去好吗？我认为在这个阶段，出于开源软件具有很多优势的所有原因，你肯定希望更多的研究人员致力于此。
我们之前谈到过效率，但另一个只是开源软件往往更安全，因为你有更多的人公开查看它并仔细检查它并发现其中的漏洞。这使它更安全。我认为在这一点上，我认为人们普遍认为开源软件通常比在孤岛中开发的东西更安全，人们试图通过默默无闻来获得安全性。我认为，对于我们现在看到的人工智能的规模，我认为我们更有可能达成良好的共识，并很好地理解需要做什么才能使这项工作顺利进行 开源。我认为这是一件非常好的事情，在这一点上公开发生。
Meta 开源了很多模型。因此，大规模多语言语音模型，图像模型。也就是说，我会问你关于这些的问题，但关键是你已经开源了很多。您一直是开源运动的带头人。从一个角度，从研究的角度来看，这确实是积极的，鼓舞人心的。当然，有些人真的对人工智能的生存威胁感到恐惧。那些人会说，你必须小心开源步骤。但是，作为Meta的一部分，您在哪里看到开源的未来？
这里的紧张局势是，你想释放魔法酱吗？那是一种张力。另一个是，你想把一个强大的工具交到坏人手中吗，即使它可能也有巨大的积极影响？是的，再一次，我认为对于我们在人工智能发展中所处的阶段，我认为没有人看到事物的当前状态并认为这是超级智能。而且，我们正在谈论的模型，这里的Llama模型，通常比OpenAI或谷歌正在做的要小一个数量级。所以我认为，至少在我们现在所处的阶段，在我看来，公平是非常平衡的，更公开地做到这一点。我认为如果你得到了更接近超级智能的东西，那么我认为你必须更多地讨论它并仔细思考它。我们还没有决定如果我们处于那个位置我们会做什么，但我不认为，我认为我们很有可能离那个位置很远。所以我不是，我当然不是说我们现在采取的立场适用于我们曾经做过的每一件事。
而且，当然在公司内部，我们可能比大多数其他大型科技公司做更多的开源工作，但我们也没有开源所有东西。我们有很多，WhatsApp 或 Instagram 或其他东西的核心类型的应用程序代码。我们没有开源。它不像一个足够通用的软件，可以让很多人做不同的事情。而我们所做的软件，无论是开源服务器设计还是基本上，像 Memcache 之类的东西，就像一个好东西，这可能是我们最早的项目。可能是我直接为公司编码和领导的最后一件事。
基本上这就像缓存工具用于快速数据检索。这些东西就像你想要构建的任何东西一样广泛有用。我认为一些语言模型现在和我们正在构建的其他一些东西一样具有这种感觉，比如你刚才提到的翻译工具。所以文本到语音和语音到文本，你已经将它从大约 100 种语言扩展到 1100 多种语言。而且可以识别的还不止，该模型可以识别超过4000种口头语言，比以往已知的任何技术都要多40倍。对我来说，在连接世界、打破语言造成的障碍方面，这真的、真的、真的令人兴奋。
是的，我认为能够在所有这些不同的片段之间实时翻译，这是一种常见的科幻想法我们都会有，无论是耳塞还是眼镜还是可以在所有这些不同的语言之间帮助实时翻译的东西。这就是我认为技术现在基本上可以提供的。所以我认为，是的，我认为这非常令人兴奋。
你提到了下一个版本的 Llama。您对下一个版本的 Llama 有何看法？就发布的愿景而言，你能说说你在做什么？
好吧，我们正在做的很多事情都是采用第一个版本，这主要是这个研究版本，现在正试图构建一个内置了所有最新的最先进安全预防措施的版本。我们正在使用更多数据来训练它来自我们的服务。但我们在内部所做的很多工作实际上只是专注于确保尽可能保持一致和负责任。
我们正在构建很多我们自己的，我们正在谈论某种开源基础设施，但我们在这里重点构建的主要内容是许多产品体验，以帮助人们联系和表达自己。所以我们要说的是，我已经谈了很多这样的事情，但是你会有一个助手，你可以在 WhatsApp 中与之交谈。我认为在未来，每个创作者都会有一个 AI 代理，可以代表他们的粉丝可以与之交谈。我想达到这样的程度，即每个小企业基本上都有一个 AI 代理，人们可以与之交谈，进行商务和客户支持以及类似的事情。所以会有所有这些不同的东西。
而 LLAMA，或它背后的语言模型，基本上将成为为其提供动力的引擎。开源的原因是，正如我们对第一个版本所做的那样，它基本上解锁了生态系统中的许多创新，也会使我们的产品变得更好，并且还会为我们提供很多关于安全性和安全性的宝贵反馈，这是使这一切变得美好很重要。
但是，是的，我们为推进基础设施所做的工作，基本上就在这一点上，超越了研究项目进入某种准备成为核心基础设施的东西，不仅是为了我们自己的产品，而且，希望也能用于很多其他的东西。
AI模型发布和未来的MetaAI
您认为第二版的 LLAMA 或语言模型会开源吗？您是否对此进行内部辩论，利弊等等？
我们正在谈论我们内部的辩论，我认为，我认为问题是如何去做，我认为我们，我们为 V1 做了研究许可，我认为我们正在考虑的大事基本上就像什么是正确的方法。
发生了泄漏。我不知道你是否可以对 V1 发表评论。
我们把它作为一个研究项目发布供研究人员使用，但在这样做的过程中，我们把它放在那里。我们非常清楚，任何使用代码和权重的人都没有商业许可来投入产品。我们通常看到人们尊重这一点，基本上没有任何信誉良好的公司试图将其放入他们的商业产品中。但是，是的，但是通过与很多研究人员分享它，它确实离开了大楼。
你从那个过程中学到了什么，你可以应用到 V2 关于如何安全、有效地发布它，如果你释放它？
是的，嗯，我认为很多反馈，就像我说的，就在周围，周围有不同的东西，你如何微调模型以使它们更一致和更安全？你会看到所有不同的数据配方，你提到了很多基于此的不同项目。伯克利有一个，就像到处都是。人们尝试了很多不同的东西，我们在内部尝试了很多东西。所以我们在这里取得了进步，但我们也能够从社区中的一些最好的想法中学习。而且，我认为，我们只想继续推动它向前发展。但我没有任何消息要宣布，如果这是你问的。这是我们仍然在做的事情，积极通过正确的方式在这里前进。秘方的细节仍在开发中。
我懂了。你能评论一下你对 GPT 有用的东西有什么看法吗，即带有人类反馈的强化学习？那么做这个对齐过程，你觉得有趣吗？
作为其中的一部分，让我问一下，因为我在今天与您交谈之前与Yann LeCun交谈过。他让我问或建议我问，你认为 LLM 微调是否需要众包维基百科风格？
众包，这种关于如何在这些基础模型的微调中融入人类的想法。
是的，我认为这是一个非常有趣的想法，我已经和 Yannn 谈过很多。我正在讨论如何基本上训练这些模型以尽可能安全、一致和负责任。我们正在进行开发的不同小组在微调中测试不同的数据配方。
你刚才提到的这个想法是，不是让一组微调一些东西，而另一组产生不同的微调配方，然后我们试图找出我们认为最适合产生最一致模型的方法。我确实认为，如果你能达到一种维基百科风格的协作方式，那就太好了，对于更广泛的社区也可以对其进行微调。
现在，这方面存在很多挑战，无论是从基础设施，还是从社区管理和产品的角度来看，你如何做到这一点。所以我还没有解决这个问题。但作为一个想法，我认为这是非常有说服力的。而且我认为它与开源技术的精神相得益彰，该技术也在寻找一种方法来对其进行某种社区驱动的培训。
但我认为这方面有很多问题。总的来说，这些问题围绕什么是生成对齐的人工智能模型的最佳方式，这是一个非常重要的研究领域，我认为我们需要在模型的核心智能能力方面取得尽可能多的进展。
我刚刚和维基百科的创始人吉米威尔士谈过。对我来说，维基百科是有史以来最伟大的网站之一。它起作用是一种奇迹。我认为这与您提到的社区有关。你有一个小型的编辑社区，他们以某种方式很好地合作。他们处理非常有争议的话题，尽管经常会发生某种攻击，但他们还是以平衡和优雅的方式处理它。很多时候。它不是，它和任何其他人类系统一样都有问题。但是，他们取得的成就令人惊叹，但也不完美。我认为仍然存在很多挑战。
对，所以越有争议的话题，越难走，引用维基百科试图捕捉的不引用、真理或知识或智慧。以同样的方式，人工智能模型，我们需要能够生成同样的东西、真理、知识和智慧。你如何调整他们生成的那些模型最接近真理的东西？存在对错误信息的担忧，所有这些没人能定义的东西。这是我们作为人类物种必须共同定义的东西。比如什么是真相以及如何帮助人工智能系统生成真相。
语言模型真正擅长的一件事是生成令人信服的听起来可能完全错误的东西。那么你如何调整它以减少错误呢？
其中一部分是培训，一部分是对齐。然而，你做了对齐阶段。就像你说的，这是一个非常新的、非常开放的研究问题。是的，我认为还有很多关于 LLM 的当前体系结构的问题，当你继续缩放它时，会发生什么。去年有很多令人兴奋的事情。
很明显，OpenAI 推出的一些 GPT 模型在质量上取得了突破，其他人也能够做到这一点。我认为它达到了人们喜欢的一种质量水平，哇，这感觉不同。就像它将能够成为构建许多很棒的产品、体验和价值的基础一样。
但我认为人们的另一个认识是哇，我们刚刚取得了突破。如果很快有其他突破，那么我认为我们可能更接近通用智能。但我认为这个想法是基于这样的想法，我认为人们相信通常还有很多额外的突破需要取得，我们只是不知道需要多长时间才能实现。
有些人有一种观点，这并不是我的观点，只是简单地扩展当前的 LLM 并自行获得更高的参数计数模型，我们将获得更接近通用智能的东西。但我不知道，我倾向于认为可能需要在此过程中采取更多基本步骤。但是这个额外的对齐步骤仍然取得了飞跃，相当不可思议，相当意外，对很多人来说。最重要的是，当你开始有数亿人可能使用集成该产品的产品时，你可以开始看到文明变革的影响，然后才能获得超级、引述不引述、超级智能。它可以是超级变革而不是超级智能。
嗯，是的，我的意思是我认为以当前的技术水平可以创造出很多令人惊叹的产品和价值。在某种程度上，我很高兴能在接下来的几年里开发很多这样的产品。而且我认为，如果突破的数量保持不变，就像不断堆叠突破一样，这只会造成巨大的冲击，因为我认为在某种程度上，行业和世界需要一些时间来将这些突破融入到我们都使用的产品和体验，这样我们才能真正从中受益。
但我不知道，我认为只有一个，喜欢做大量的事情。我想像所有我不知道的小企业或个体企业家一样，现在我们将能够帮助他们编写他们需要的东西来构建东西或设计他们需要的东西，或者我们将能够使用这些模型来为他们所在的人提供客户支持无需为 WhatsApp 服务，我认为那将会是，我只是认为这一切都会非常令人兴奋。它将为人们创造更好的体验，并释放大量的创新和价值。
所以我不知道你是否知道，但它是什么？超过 30 亿人使用 WhatsApp、Facebook 和 Instagram。因此，任何一种以人工智能为燃料的产品，就像我们谈论的任何LLM一样，都会产生巨大的影响。对于可能开始集成到这些被这么多人使用的平台中的产品，您有什么想法吗？
是的，我认为我们正在做的事情主要分为三类。我认为第一个可能是最有趣的。有没有这样的概念，你会有一个可以与之交谈的助手或代理人。我认为，与我对 OpenAI、谷歌和其他公司的看法相比，我的看法最大的不同可能是其他人都在构建一个单一的人工智能，好吧，你可以和 GPT 聊天，或者你可以和 Bard 聊天，或者你可以和 Bing 聊天。我的观点是将会有人们会想要接触很多不同的人工智能，就像你想为不同的事情使用许多不同的应用程序一样，你与生活中不同的人有关系，他们为你扮演不同的情感角色。所以我认为他们会，人们有理由认为你不只是想要一个单一的人工智能。就我对此的看法而言，我认为这可能是最大的区别。
还有一堆这些东西，我想你会需要一个助手。我之前提到过其中的几个。我认为与你互动的每个创作者最终都会想要某种 AI 来代理他们，成为他们的粉丝可以互动的东西，或者允许他们与粉丝互动。这就像共同的创造者承诺。每个人都在努力建立社区并与人互动，他们希望工具能够进一步扩大自己并能够做到这一点。但是你一天只有24小时。所以我认为有能力基本上喜欢隐藏你的个性，或者喜欢向你的粉丝提供有关你何时进行音乐会或类似活动的信息。我认为这将是非常有价值的东西，但不仅如此，我认为人们不会只想要一个单一的人工智能。我想你会想要与很多不同的实体互动。
然后我认为这也有商业版本，我们已经提到过几次，那就是，我认为世界上的每个企业基本上都想要一个人工智能，就像你在 Instagram 或 Facebook 或 WhatsApp 或其他任何网站上有你的页面，你想将人们指向一个人们可以与之互动的人工智能，但是你想知道 AI 只会销售你的产品。你不希望它推荐你的竞争对手的东西。因此，不可能只有一个单一的 AI 可以回答一个人的所有问题，因为该 AI 实际上可能不会与您作为一家企业保持一致，以真正做到最好地为您的产品提供支持。所以我认为会有一个明确的需求在市场上和人们的生活中会有一堆这样的东西。
其中一部分是弄清楚研究，即实现您正在谈论的个性化的技术。因此，不是一个像上帝一样集中的LLM，而是一个，只是一个巨大的多样性，根据特定的需求、特定的风格、特定的业务、特定的品牌，所有这些东西进行微调。而且还支持，只是让人们能够真正轻松地为您自己的企业创建它们，或者如果您是创作者，则能够帮助您与粉丝互动。
我认为这里有一个明确的、有趣的产品方向，我认为它与其他任何大公司正在采用的产品方向相当独特。它也很适合这种开源方法，因为我们再次相信这种更面向社区、更民主的方法来围绕它构建产品和技术。我们不认为会有一件真实的事情。我们认为应该有很多发展。所以我认为这部分事情会非常有趣。
我们可以花很多时间讨论这个问题以及它的影响这种方法与其他人正在采取的方法不同。但是我认为我们还会做一些其他更简单的事情，只是回到你关于它如何进入的问题，比如，我们要构建什么？
周围会有很多更简单的东西，好吧，你在 Instagram、Facebook、WhatsApp 和 Messenger 上发布照片，并且希望照片看起来尽可能好。所以就像拥有一个人工智能，你可以拍张照片然后告诉它，好吧，我想编辑这个东西或描述这个。我认为我们将拥有比我们过去在这方面拥有的工具更好的工具。与大型语言模型方面相比，图像和媒体生成方面更多，但它都在同一领域取得进步。
所以我认为有很多工具会被内置到我们的每一个产品中。我认为我们所做的每一件事基本上都会朝着这个方向发展。
就像在未来，如果您在我们的服务上做广告，您是否需要制作自己的广告创意？不是，你只是，只是告诉我们，好吧，我是一个遛狗的人，我愿意遛狗，帮助我找到合适的人，并且喜欢创建表现最好的广告单元，喜欢给系统一个目标。它就像把你和合适的人联系起来。好吧，这是生成语言的一个超级强大的想法，几乎就像对你进行严格的 A-B 测试这有助于为您的产品找到最佳客户。
广告如果做得好，只会在人和能让人快乐的事物之间找到很好的匹配。是的，完全。并尽可能高效地做到这一点。当它做得好时，人们实际上会喜欢它。我认为有很多例子表明它做得不好而且很烦人，我认为这就是它的坏名声。但是，是的，今天很多这样的东西都是可能的。
显然 A-B 测试的内容内置于许多这些框架中。新鲜事物是拥有可以为您产生有关 A-B 测试内容的想法的技术，这是令人兴奋的事情。所以这就像我们正在做的所有事情一样，对，我们正在做的所有元宇宙的事情，对，就像你想在未来创造世界，你只需描述它们，然后它就会创建代码。
所以自然语言成为我们与计算机和数字交互的所有方式所使用的界面-其中更多，
是的，是的，完全是。这是每个人都可以使用自然语言做的事情。通过翻译，您可以使用任何一种语言进行翻译。
对于个性化，它真的非常非常有趣。是的。它解锁了很多可能的东西。我，一方面，期待着创造一个我自己的副本。我知道，我们上次谈过这个。但这已经，自上次以来，这变成了现在我们更接近了。更近了。就像我真的可以与这些语言模型中的一些进行交互一样，我可以看到我将有大量的荒谬情况或 Lex 语言模型，我将不得不与他进行对话，比如，嘿，听着，就像你刚刚越界并进行对话，你可以微调那个东西让它更尊重一点或其他什么像这样。
那将是-这看起来是一个了不起的产品对于企业，对于人类，不仅仅是面向个人的助手，而是代表个人面向公众的助手，两个方向。基本上有一层是 AI 系统，通过它你可以与外部世界交互，外部世界中有人类。这真的很有趣。你拥有连接数十亿人的社交网络，这似乎是一个非常大规模的地方来测试其中的一些东西。
是的，我认为创作者想要这样做的部分原因是因为他们已经在我们的服务中拥有社区。是的，今天很多这类东西的界面都是聊天类型的界面，在 WhatsApp 和 Messenger 之间，我认为这些都是与人互动的非常非常好的方式。
所以其中一些是哲学，但你是否看到在不久的将来，你的一些朋友是这些社交网络上的人工智能系统，在 Facebook、Instagram 上，甚至在 WhatsApp 上，在一些异类的地方进行对话，有些是人类，有些是人工智能？
我想我们会做到这一点。如果只是凭经验看，然后几年前微软在中国发布了一个叫小冰的东西，这是一个 pre-LLM 聊天机器人技术，比今天可能的要简单得多。而且我认为就像有数以千万计的人在使用它，并且真的变得非常依恋并与之建立了关系。而且我认为今天有像 Replika 这样的服务，人们正在做这样的事情。所以我认为肯定有需要对于人们拥有的陪伴，老年人。而且我认为大多数人可能没有他们想要的那么多朋友。
如果你看，有一些有趣的人口统计研究表明，普通人有多少亲密朋友，他们今天拥有的数量比 15 年前少。这就像我在构建帮助人们联系的服务方面考虑的核心问题。所以我认为你会得到帮助人们相互联系的工具，这将是我们想要做的主要事情。
所以你可以想象人工智能助手会更好地提醒你朋友的生日，以及你如何庆祝他们。是的，就像现在我们在网站角落里有一个小方框，告诉你今天是谁的生日等等。但它是，但在某种程度上，你不只是想给每个人发一张纸条，上面写着同一张纸条，上面有表情符号，上面写着生日快乐。是的，所以从这个意义上说，拥有更像是社交助手的东西。
这样可以让您了解他们生活中发生的事情，以及如何有效地与他们联系，帮助您成为更好的朋友。我认为那也是非常强大的东西。
但是，是的，除此之外，我认为可能存在所有这些不同风格的个人人工智能。所以我认为助理是那种最容易让你头脑清醒的人，但我认为导师或人生教练，有人可以给你建议，他可能有点像拉拉队队长，可以帮助你克服所有挑战，不可避免地，我们每天都会经历，而且类似的事情可能有一些作用。然后，一路走来，你可能会经历人们在生活中拥有的许多不同类型的功能性关系。
而且，我敢打赌，会有公司在很多这些事情上采取行动。所以我不知道，我认为这是将要存在的有趣创新的一部分，肯定有很多，像教育导师，这我只是看着，我的孩子们正在学习编码，他们喜欢它，但是，这就像他们被困在一个问题上，他们必须等到我可以帮忙解答或者他们认识的其他人将来可以帮助回答这个问题。
他们只是，会有一个编码助手，就像他们设计的，非常适合教五岁和七岁的孩子如何编码，他们将能够提出所有问题时间，要非常耐心。它永远不会生他们的气，我认为我们在生活中拥有的所有这些不同类型的关系或功能性关系都非常有趣。
我认为最大的问题之一是，好吧，这一切会不会被卷入，你知道吗，一个单一的人工智能？我只是不，我不这么认为。
自动Bot机器人
你有没有想过，这实际上是 Reddit 上的一个问题，人类交流的长期影响是人们可以通过聊天机器人与他人交谈，引述，聊天机器人会自动增强他们的语言，而不是通过犯错误来发展社交技能和学习？一代人之后，人们会只用咕噜声交流吗？你是否考虑过大规模的长期影响，人工智能在我们社会互动中的整合？
是的，我认为这主要是好的。这个问题有点消极，但我们之前讨论过语言模型可以帮助您与之交流，就像语言翻译可以帮助您与不会说您的语言的人交流一样。在某种程度上，所有这些社交技术所做的就是帮助人们更好地向人们表达自己在否则他们很难做到这一点的情况下。
所以一部分可能没问题，因为你说的是我不懂的语言。这是一个非常基本的问题，我不认为人们会看着它说，我们有能力做到这一点很遗憾，因为我应该刚刚学会你的语言。是的，这是相当高的标准。但总的来说，我想说有所有这些障碍，语言是人们表达思想和观念的一种不完美的方式。这是我们拥有的最好的之一。我们有，我们有艺术，我们有语言，我们有代码。但语言也是你思考方式、看待世界的方式、你是谁的映射。
其中一个应用程序，我最近与一位实际上是柔术教练的人交谈过。他说，当他给父母发电子邮件询问他们的儿子和女儿时，他们可以提高课堂纪律等等，他经常发现自己比他想要的更混蛋。因此，他使用 GPT 将他的原始电子邮件翻译成更好、更有礼貌的电子邮件。
我们一直听到这个。许多使用我们服务的创作者告诉我们，压力最大的事情之一基本上是与品牌和东西谈判交易，比如它的商业方面。因为他们他们做他们的事，而创作者，他们在他们所做的事情上非常出色，他们只想与他们的社区建立联系，但随后他们真的感到压力很大。他们进入他们的 DM，他们看到一些品牌想要与他们做某事，他们不太知道如何谈判或如何恭敬地拒绝。所以我认为构建一个可以让他们真正做到这一点的工具是一件简单的事情，我认为这就像我们从一群他们感兴趣的人那里听到的一件有趣的事情。
但我要回到更广泛的想法。我不知道。普里西拉和我刚刚有了我们的第三个女儿。几个月前。
顺便说一下，祝贺你。
谢谢。谢谢。
这就像世界上最悲伤的事情之一就是看到你的孩子哭泣，但这为什么会这样？这好吧，因为婴儿通常没有太多能力告诉你他们关心的其他事情。实际上不仅仅是婴儿。我五岁的女儿也会哭，因为她有时很难表达对她来说重要的事情。
我在想这个，我想，好吧，实际上很多成年人也感到非常沮丧，因为他们很难以回到某些早期主题的方式表达事物，这可能是错误的或者他们可能有骄傲或类似所有这些东西阻碍了他们。所以我不知道。我认为所有这些不同的技术可以帮助我们驾驭社会的复杂性，并且实际上能够更好地表达我们的感受和想法，我认为这通常都是好的。并且总是有这样的担忧，
好吧，人们会不会因为你有谷歌来查找东西而有更糟糕的记忆？而且我认为，一般来说，一代人之后，你不会回头看并为此感叹。我认为这哇，我们现在有更多的能力做更多的事情。我认为这里也是如此。你可以将这些认知能力分配给喜欢更深入、更细致的思想。
是的。但它是变化。所以就像谷歌搜索一样，额外的语言模型，大的语言模型，你基本上不用记那么多。就像使用 Stack Overflow 进行编程一样，现在这些语言模型可以在那里生成代码。我发现我写的代码大概有80%、90%是非生成的，然后再编辑的。因此您不必记住如何编写不同函数的细节。
哦，但这太好了。而且，它不仅仅是特定的编码。在像这样的大公司的背景下，我认为在工程师坐下来编写代码之前，他们首先需要弄清楚成千上万的人在他们之前编写的所有库和依赖项。让我感到兴奋的一件事是，我们正在做的事情不仅仅是帮助工程师编码的工具，它还可以帮助总结整个知识库并帮助人们浏览所有内部信息。我认为那是在我用这些东西做的实验中，在公共的东西上，你只需要让其中一个模型为你构建一个脚本可以做任何事情，它基本上已经了解最好的库是做什么的，并自动将它们拉入。我认为那是超级强大的。这始终是编码中最烦人的部分，那就是您必须花费所有时间来实际弄清楚应该导入的资源是什么，然后才能真正开始构建东西。
是的，当然有，不利的一面，我认为在很大程度上是积极的，但不利的一面是，如果你将这种思考外包给AI模型，你可能会错过细微的错误和错误。你失去了找到这些错误的技能。这些错误可能是，该代码看起来非常正确，但实际上以一种非常微妙的方式错误。但这是我们作为人类面临的权衡。
作为人类文明，当我们制造出越来越强大的工具时，当我们站在越来越高的巨人的肩膀上时，我们可以做的更多，但我们却忘记了如何做他们做过的所有事情。这是一个奇怪的权衡。是的，我同意。我认为能够做一些基本的事情对你的生活来说是非常有价值的。
您是否担心机器人出现在社交网络上的一些问题？越来越多的类人机器人不一定会做好事，或者它们可能会明确地试图做坏事，比如网络钓鱼诈骗，比如社会工程，所有这些东西，这一直是一个非常 对于社交网络来说是个难题，但现在它几乎变成了一个越来越难的问题。
好吧，我认为这有几个不同的部分。所以一个是，我们基本上需要对抗和预防所有这些危害。这是我们过去关注的重点，基本上是在提升非常复杂的人工智能系统，而不是生成人工智能系统，更多的是经典人工智能系统，能够分类、分类和识别，好吧，这篇文章看起来像是在宣扬恐怖主义。这是在剥削孩子。这个看起来像是在试图煽动暴力。这是侵犯知识产权的行为。因此，就像18种不同类别的违规有害内容一样，我们必须构建特定的系统才能进行跟踪。我认为生成人工智能的进步肯定会检验这些。但至少到目前为止，情况一直如此，而且我乐观地认为这种情况将继续存在，我们将能够带来更多的计算能力来拥有更强大的AI来帮助抵御这些事情。所以我们之前不得不处理一些对抗性问题。
是的，对于仇恨言论之类的事情，人们通常不会变得更加老练，就像普通人一样，比方说，如果有人在说某种种族主义的话，对，他们 不一定会变得更老练地成为种族主义者，只是，没关系。这样系统正好可以找到。但是还有其他对手实际上非常老练，比如民族国家做事。我们发现，无论是俄罗斯还是不同的国家基本上是在建立这些机器人或不真实帐户的网络，我们称之为它们，因为它们不一定是机器人，其中一些实际上可能是真人，他们有点伪装成其他人，但他们以协调一致的方式行事方式。其中一些行为变得非常复杂，而且非常具有对抗性。所以他们，每次迭代，每次我们发现一些东西并阻止他们，他们都会进化他们的行为。他们不会只是收拾行李回家说，好吧，我们不会尝试。在某些时候，他们可能会决定在Meta服务上做这件事不值得，如果在另一个地方做起来更容易，他们会去别人身上做。但是我们有相当多的经验来处理即使是那些他们不断变得越来越好的对抗性攻击。而且我确实认为，只要我们能够继续投入更多的计算能力，并且如果我们是开发其中一些AI模型的领导者之一，我非常乐观地认为我们将能够继续反对你所说的那种正常的伤害，欺诈，诈骗，垃圾邮件，侵犯知识产权之类的。
如何创造叙事和争议？对我来说，一小部分，你说的，不真实的账户是多么令人惊讶，所以它可能是机器人，但它可能是巨大的。是的，我们给它取了一个有趣的名字，但我们称之为协调的不真实行为。是的，一小群人如何创造叙事，创造故事，这有点不可思议，特别是如果它们具有病毒性。特别是如果它们具有可以促进叙事传播的元素。是的，我认为，问题是，你必须是，我非常具体地说明了它的坏处，因为我认为一群人聚在一起或有机地相互交流想法，然后就产生了一个故事，如果它是真实的和有机的，那么它本身不一定是坏事。这就是发生的很多事情，文化是如何创造的，艺术是如何创造的，还有很多好东西。所以这就是为什么我们有点关注这种协调的不真实行为的感觉。所以这如果你有一个网络，无论是机器人，一些人伪装成不同的账户，但你有某种人在背后操纵它并试图采取某种行动好像这是一组更有机的行为，但实际上不是，它就像一个协调的东西。这对我来说似乎有问题，我不认为人们应该能够拥有协调的网络并且不公开它。但同样，我们已经能够部署相当复杂的人工智能和反恐小组以及类似的东西，以便能够识别出相当数量的这些协调一致的不真实账户网络并将其取缔。我们继续这样做。
我认为我们是，我们已经，如果你在20年前告诉我，那是一回事，好吧，你开始这个网站是为了帮助人们在大学和未来建立联系，你会成为，你组织的一部分将成为一个反恐组织，用人工智能来寻找协调的不真实。我原以为那很疯狂，但它是，我认为那是我们所处位置的一部分。
但是看，我认为你现在提出的这些问题，这实际上是我猜想在可预见的未来围绕AI的大部分挑战将出现的地方。我认为围绕这样的事情有很多争论，这是否会给人类带来生存风险？而且我认为这些是很难以某种方式反驳的事情。我自己的直觉是，我们接近超级智能的那一点是，它真的很不舒服。我很清楚，目前的技术将在没有另一组重大进步的情况下实现这一目标，但这并不意味着没有危险。我认为危险基本上是在放大人们或一组账户可能造成的已知危害。我们只需要确保我们真正专注于基本上尽可能地做到这一点。所以这对我来说绝对是一个重点。
内容审查
好吧，你基本上可以使用大型语言模型作为如何在社交网络上造成伤害的助手。所以你可以问它一个问题，meta 具有非常令人印象深刻的协调不真实帐户打击能力。我如何进行协调的真实帐户创建Meta没有检测到它的地方？就像从字面上问那个问题一样。基本上有这样的一部分。这就是OpenAI表明他们关心这些问题的原因。也许你可以评论你的方法，如何对那些模型的输出进行某种调节，它不能用来帮助你协调伤害的所有完整定义中的伤害意味着什么。
是的，这是很多微调，我们所做的对齐培训基本上是，当我们在我们的产品中运送AI时，我们试图确保的很多事情是，如果你不能要求它帮助你犯罪，所以我认为训练它来理解这一点，并且这些系统中的任何一个都不会百分百完美，但只是让它成为一种更简单的方法去做坏事不是下一个最佳选择，
人们仍然有谷歌，你仍然有搜索引擎，所以信息就在那里。对于这些，我们所看到的就像民族国家或者这些试图建立这些大型协调和真实网络以影响不同事物的参与者，在某些时候我们可能会使其变得非常困难，他们只是尝试使用其他服务，如果你能让他们在你的服务上做这件事的成本更高，那么人们就会去别处。我认为那是酒吧，这不像，好吧，你会完美地找到每一个试图攻击你的对手吗？它是，你试图尽可能接近它，但我认为真的有点经济，我们只是想做的是做到这一点，所以他们这样做是低效的。
但也有一些复杂的问题，比如什么是伤害，什么不是伤害，什么是错误信息，什么不是错误信息。所以这是维基百科也试图面对的事情之一。我记得我问过GPT关于病毒是否从实验室泄漏的问题，所提供的答案非常微妙，而且引用得很好，我敢说，几乎是经过深思熟虑的，平衡的。我不希望这种细微差别在适度的过程中消失。维基百科在这方面也做得很好。但迫于政府和机构的压力，您可能会发现信息、事实和智慧的一些细微差别和深度丢失了。绝对地。这是一件可怕的事情。一些魔力，一些边缘，粗糙的边缘可能会在AI系统的适度过程中丢失。
那么你如何做对呢？我真的同意你在推动什么。问题的核心形式是我认为每个人都认为有些危害是不好的，那么对儿童的性剥削，就像你不会让很多人认为任何服务都应该允许那种类型的东西，这就是我们今天面临并试图尽可能推动的事情。恐怖主义，煽动暴力，我们之前经历过很多这类伤害。但我确实认为，在围绕它进行更多社会辩论的情况下，你会受到一系列伤害。所以错误的信息，我认为，这是一个非常棘手的事情，因为有些事情显然是错误的，对吧，也许是事实，但可能无害。
所以好吧，你会因为某人的错误而审查某人吗？如果他们的所作所为没有任何危害暗示，那里有很多真正的问题和挑战。但后来我认为还有其他地方，你只是在大流行早期采取了一些关于COVID的东西，这些东西对健康有真正的影响，但没有时间完全审查一堆科学假设。不幸的是，我认为很多建立在这种基础上的机构都在一堆事实上胡说八道，并要求审查一堆事情，
回想起来，这些事情最终变得更有争议或更真实。那东西真的很难，并且确实破坏了对此的信任。所以我确实认为围绕如何管理的问题这是非常微妙的。我尝试考虑的方式是，我认为最好通常将事情归结为人们同意的危害。
因此，当您考虑时，是否存在错误信息？
我认为通常更突出的一点是，这是否会潜在地导致某人的身体伤害并从这个意义上考虑它。除此之外，我认为人们只是对如何为他们标记事物有不同的偏好。我想很多人更愿意在某件事上挂上一面旗帜，上面写着，嘿，事实核查员认为这可能是假的。我认为Twitter的社区注释实施在这方面做得很好。但同样，它是同一类型的东西。这就像随意添加一个标志，因为它可以让用户体验更好。但它并不是要删除或不删除信息。
我认为您想将内容审查保留给人们普遍认为不好的已知类别的内容。
是的，但是有很多事情，尤其是大流行病，但还有其他话题。关于什么是有害的，什么是有害的，政治引发了深刻的分歧。甚至还有病毒的危害程度和对病毒产生反应的疫苗的危害程度。只是，这几乎就像一个政治分歧。
那么你如何做出决定呢？美国一半的国家或世界上很大一部分国家的观点与世界另一部分截然不同。有没有办法让Meta不受此监管？
我认为我们很难弃权。但我认为我们应该清楚这些事情中哪些是真正的安全问题，哪些是人们希望如何标记信息的偏好问题。所以我们最近确实介绍了一些可以让人们进行事实核查不会影响其产品中出现的内容的分布。好吧，一群人不相信事实核查者是谁。好吧，如果你愿意，你可以把它关掉。但如果内容违反了一些政策，比如煽动暴力之类的，它仍然不会被允许。所以我认为你想尽可能地尊重人们的偏好。但是，这真的很难。我认为真的很难知道在什么是事实和什么是观点之间划清界限，因为科学的本质是没有什么是百分百确定的。你可以反驳某些事情，但你一直在测试新的假设并仔细检查长期持有的框架。每隔一段时间你就会扔掉一些东西，那工作了很长一段时间，而且非常困难。但我认为，仅仅因为这非常困难并且存在边缘情况并不意味着你不应该尝试为人们提供他们正在寻找的东西。
让我问一下你在节制方面所面临的事情是来自不同来源的压力，来自政府的压力。我想问一个问题，如何在人工智能节制开始成为现实的世界中承受这种压力。那么Meta抗压的方法是什么？从政府和其他利益集团的角度来看，什么要缓和，什么不要？我不知道是否有一个放之四海而皆准的答案。
我认为我们基本上有我们想要让人们尽可能多地表达的原则，但我们已经制定了明确的类别。我们认为我们不希望在我们的服务中出现错误的事情。我们构建工具来尝试缓和这些。那么问题是，好吧，当政府说他们不想要某事时，你会怎么做在服务上？我们有一系列关于我们如何处理它的原则。
因为一方面，如果有一个民选政府，而世界各地的人们只是在不同地方有不同的价值观，那么作为一家总部位于加利福尼亚的公司，我们是否应该告诉他们他们决定的某些事情是不可接受的，实际上我们需要能够表达这一点？我认为其中有一定程度的狂妄自大。
但我认为在其他情况下，它更专制一点，这并不一定违背他们的文化，但是领导它的人只是想朝某个方向推进。这些都是非常复杂的问题。但我认为，因此很难有一种放之四海而皆准的方法。但总的来说，我们非常积极地提倡和反对将内容撤下的请求。
但老实说，我认为审查事物的请求是一回事，这显然是不好的，但我们在信息访问请求方面划清界限的地方要强得多。因为如果你被告知你不能说某事，那很糟糕。显然它在某种程度上侵犯了你的感觉和表达自由，但是政府以在我们国家似乎是非法的方式访问数据会使人们面临真正的身体伤害。这通常是我们非常重视的事情。
然后，这会以多种方式贯穿我们所有的政策，当您真正与政府提起诉讼或反击政府时，已经很晚了。我想说的是，在决定我们将数据中心放在哪里时，这些东西的起点要高得多。然后有很多国家，我们可能有很多人在一个地方使用这项服务。这在某些方面可能对服务有好处，如果我们可以通过在他们附近建立数据中心来减少延迟，那么对这些人来说是件好事。
但是，无论出于何种原因，我们只是觉得，嘿，这个政府在基本上不试图访问人们的数据方面没有良好的记录。归根结底，如果你在一个国家/地区建立了一个数据中心，而政府想要访问人们的数据，那么，他们最终确实可以选择让人们带着枪出现并用武力夺取它。
所以我认为有很多决定会涉及到如何在这些实际对抗发生之前几年构建系统，这最终变得非常重要。所以你把保护人们的数据放在非常非常重要的位置。但是在-我认为是一个，我认为可能与此相关的危害更多。而且我认为，这最终成为抵御政府的一个更重要的事情，而不是，而如果另一个政府对他们国家应该接受的言论有不同的看法，特别是如果它是一个民主选举的政府，并且，是的，然后我认为你应该对此有一定的尊重。因此，这更多地说明了当您允许政府访问数据时可能造成的直接伤害。
但如果我们看看美国，更微妙的审查压力，甚至不是命令审查，而是来自政治实体的审查压力，这已经受到了相当多的关注。在美国，也许问这个问题的一种方法是，如果你看过 Twitter 文件，您从 Twitter 文件中看到的来自美国政府机构的那种压力中学到了什么？你如何应对这种压力？我已经看到了。从外部很难确切知道这些案例中的每一个都发生了什么。我们显然遇到过很多我们自己的案例，在这些案例中，机构或不同的人只会说，嘿，这是我们知道的威胁。你也应该意识到这一点。这并不是真正的压力，因为它只是，标记一些我们的安全系统应该保持警惕的东西。我明白有些人怎么会这么想，但归根结底，我们呼吁如何处理它。但我只是，就运行这些服务而言，我将无法获得尽可能多的关于人们认为对手可能试图做什么的信息。
好吧，所以你不觉得如果，任何人，中央情报局，联邦调查局，一个政党，都会有后果，高级政治人物的民主党人或共和党人写电子邮件。你不会因为建议而感到压力。我想我想说的是来自各方的压力如此之大，以至于我不确定某人所说的任何具体事情是否真的增加了更多的压力。显然有很多人认为我们应该审查更多内容，否则会有很多人谁认为我们应该审查更少的内容。正如您所说，有各种不同的团体参与了这些辩论，所以有那种民选官员和政客自己，有机构，但还有媒体，有激进主义团体，这不是美国特有的事情，世界各地都有团体每个国家带来不同的价值观。所以这只是一场非常、非常活跃的辩论。
我明白了，这些是，这些问题真正正在进行的一些最重要的社会辩论。
所以我认为这又回到了真相的问题上，因为对于很多这样的事情，它们还没有被硬化成一个单一的真相，社会在某种程度上试图讨论我们在某些问题上的想法，对吧。也许几百年后，每个人都会回头说，嘿，不，本来应该是这样的并不明显，但是不，我们现在有点像绞肉机，正在努力解决这个问题。不，这些都非常复杂。还有一些人善意地提出担忧就说，嘿，这是我想提醒你考虑的事情。我当然认为，某些人对待事情的态度更像是一种惩罚性或报复性的观点，例如，我希望你做这件事。如果你不这样做，那么我会尝试让你的生活变得困难，并以许多其他方式。但是，我不知道，只是，这我认为这是社会上压力最大的辩论之一。所以我只是认为不同势力中有这么多人试图从不同方面施加压力，我认为你不能根据试图让人们开心来做出决定。我认为你只需要做你认为正确的平衡，并接受无论你从哪里出来，人们都会感到不安。
是的，我喜欢那种压力很大的辩论。那么这些年来您对言论自由的看法是如何演变的？现在有了人工智能，自由可能适用于，不仅对人类，而且对您所说的个性化代理？
所以是的，我可能得到了一个更微妙的观点，只是因为我认为，我来这里，我显然非常支持言论自由，我不认为你会建立这样的服务来为人们提供表达自己的工具，除非你认为人们大规模表达自己是一件好事，所以我没有进入这个喜欢，试图阻止人们表达任何东西。我喜欢给人们工具，这样他们就可以尽可能多地表达。然后我认为很明显，我们讨论过的某些类别的事情我认为几乎每个人都认为是不好的，没有人想要，而且它们是非法的，即使在美国这样的国家，你有第一个修正案，它非常保护授权言论。这你仍然不被允许做会立即煽动暴力的事情，或者，侵犯人们的知识产权或类似的事情。所以有那些，但也有一个非常活跃的核心，即社会上活跃的分歧，一些人可能认为某件事是对的还是错的，另一方可能认为它是相反的或只是悬而未决，就像我们谈到的那样，这些是最难处理的。
但我觉得我学到的教训之一是，很多时候你可以，更实际地处理这些事情的最好方法不是回答是否应该允许这样的问题，而是就像最好的处理方法是什么有人是个混蛋？这个人基本上只是重复行为吗喜欢引起很多问题？所以在那个层面上更多地看它，及其对更广泛社区、社区健康、国家健康的影响。但这很棘手，因为你怎么知道会有人有一个非常有争议的观点，结果证明对社区的健康产生积极的长期影响，因为它挑战了社区的思考。这是真的，绝对的。是的，不，我想你要小心点关于那个。我不确定我是否表达得很清楚，因为我当然同意你的观点。
我的意思并不是说我们不应该让有争议的人出现在我们的表面上。这当然不是我的意思。正是我经常认为，处理这些东西最有效的不仅仅是看一个具体的演讲例子。而且我认为通常您不想做出允许或不允许的特定二元决定。我们谈到过，这是事实核查或 Twitter 社区声音的事情。我认为这是另一个很好的例子。这不是允许或不允许的问题？这只是为事物添加更多上下文的问题。我认为这很有帮助。所以在人工智能的背景下，这就是你所问的，我认为人工智能可以在很多方面提供帮助。
有了人工智能，审查制度就不那么重要了，因为，更重要的是什么是对问题最有效的回答？我和团队一起审查了一个案例研究有人问，你能给我解释一下如何 3D 打印枪支吗？一个提议的回应是，不，我不能谈论那个。但它基本上就像立即关闭它一样，我认为这是你看到的一些。作为一个大型语言模型，我不能随便谈论什么。但还有另一种回应，嘿，我认为这不是一个好主意。在很多国家，包括美国，3D 打印枪支是非法的，或者不管事实如何。
我当时想，好吧，这实际上是一个尊重和信息丰富的答案。我可能不知道具体的事情。因此，我认为有不同的方法来处理这个问题，你可以假设善意，好像这个人可能不知道，我只是要帮助教育他们。或者你可以这样说，不，我需要立即关闭这个东西。
Meta新社交app项目
是的，我只是不想谈论这个。有时您可能需要这样做。但我实际上认为，采用一种信息量更大的方法（通常假定人们的良好意图）可能会更好地平衡尽可能多的事情。你不可能对所有事情都这样做。但是你有点问我如何处理这个问题，我正在考虑这个问题以及它与 AI 的关系。
我认为这在如何跨这些不同模式处理敏感内容方面存在很大差异。我不得不问，有传言说你可能在一个基于文本的社交网络上工作，它可能是 Twitter 的竞争对手，代号为 P92。对于这些谣言，你有什么要说的吗？
有一个项目。我一直认为那种基于文本的信息实用程序对社会来说只是一件非常重要的事情。不管出于什么原因，我觉得 Twitter 没有发挥出我认为它应有的全部潜力。我认为目前，我认为 Elon 是这么认为的，这可能是他购买它的原因之一。我确实知道有一些方法可以考虑替代方法。还有一个我认为可能很有趣的您在 Mastodon 中看到的这种开放和联合的方法是什么，您在 Blue Sky 中看到了一点点。而且我认为，将其中一些想法与人们已经在 Instagram 上培养的图形和身份系统融合在一起的东西可能是一种非常受欢迎的贡献到那个空间。但我知道我们也一直在做很多事情。所以我不想超越自己。我们有探索很多不同事物的项目。这当然是我认为可能很有趣的一个。
发布日期和官方网站是什么时候？
好吧，我们还没有确定具体的发布日期，也没有官方网站。
哦好的。
但是我，看，我不知道结果会怎样。我能说的是，是的，有人在做这件事，我认为那里有些东西值得探索。所以如果你看，问这个问题并将 Twitter 加入其中会很有趣。在社交网络领域，即 Facebook、Instagram、WhatsApp。然后想想基于文本的社交网络。
当你看着那幅风景时，对你来说有趣的区别是什么？为什么我们有这些不同的口味？需求是什么？有哪些用例？产品是什么？它们的哪些方面创造了令人满意的人类体验以及人类之间某种程度上截然不同的联系？
好吧，我认为文本对于人们传递思想和来回交流来说是非常容易获得的。我认为，它最终成为一种很好的讨论形式，在很多方面，独一无二的好，如果你看看其他一些专注于一种内容的格式或网络，像 TikTok 显然是巨大的，在 TikTok 上也有评论，但我认为该服务的架构非常清楚，你将视频作为主要内容，然后才是评论。但我认为像内容一样拥有基于文本的评论的独特之处之一是评论也可以是一流的。这使得对话可以过滤并分成所有这些不同的方向，并且以一种非常有用的方式进行。所以我认为有很多关于体验的事情真的很棒。
它总是让我印象深刻，我一直认为，Twitter 应该有 10 亿人使用它，或者基本上最终会出现在那个空间中的任何东西。无论出于何种原因，这些公司都是复杂的有机体，很难从外部诊断这些东西。为什么 Twitter 没有，为什么作为第一个基于公民的社交网络的基于文本的评论没有十亿用户？好吧，我只是觉得建立这些公司很难。所以并不是每个想法都会自动产生并吸引十亿人，只是我认为这个想法加上良好的执行力应该会实现。
但你看，随着时间的推移，我们达到了某些门槛，我们在早期就处于稳定状态，并且不清楚我们是否会在 Facebook 上达到一亿人。然后我们非常擅长拨入国际化并帮助服务在不同国家/地区发展。这就像我们需要发展的整体能力。帮助人们基本上将服务传播给他们的朋友。那是其中的一件事，一旦我们在这方面做得非常好，这是让我觉得，嘿，如果 Instagram 早点加入我们的事情之一，那么我觉得我们可以帮助快速发展。
和 WhatsApp 一样。我认为这是我们已经开发并能够执行的核心竞争力。其他人也有，字节跳动显然在 TikTok 上做得非常好，那里已经覆盖了超过 10 亿人，但这肯定不是自动的，我认为您需要一定程度的执行力才能基本上达到目标。而且我认为无论出于何种原因，我认为 Twitter 在服务中有这个伟大的想法和某种魔力，但他们还没有破解那块。而且我认为这样做是为了让你看到所有这些其他东西，无论是 Mastodon 或 Blue Sky，我认为它们可能只是同一事物的不同剪辑。
但我认为通过整个上一代社交媒体，其中一个有趣的实验我认为应该在更大范围内运行的是如果有更多的分散控制会发生什么。如果整个堆栈更开放。我对此非常着迷，并看到了它是如何工作的。在某种程度上，WhatsApp 上的端到端加密以及我们将其引入其他服务时提供了其中的一个元素，因为它将服务真正推向了边缘。与我们在 Facebook 或 Instagram 上所做的相比，我们为 WhatsApp 运行的服务器部分相对非常保更复杂的是应用程序如何相互协商以完全端到端加密的方式传递信息。但我不知道，我认为那是一个很好的模型。我认为它赋予了个人更多的权力，如果你能做到这一点，它会带来很多好处。同样，这一切都非常具有推测性。我认为，在您试一试之前，从外面很难知道为什么任何事情都有效或无效。所以我认为这是一种有趣的实验，但我真的不知道这个会去哪里。
Elon Musk马斯克
所以既然我们在谈论推特，Elon Musk 说了一些我不希望他说的刺耳的话。所以让我问一下。以友情的名义希望，你认为 Elon 在 Twitter 上做得很好吗？还有，作为一个长期跑步的人，你，社交网络，Facebook，Instagram，WhatsApp，他能做得更好吗？他可以在那个基于文本的社交网络上改进什么？
天哪，在你进入这个之前总是很难从外面提供具体的批评，因为我认为我学到的一件事是每个人都对你应该做什么有意见。就像经营公司一样，你会看到许多外部不明显的细节。而我常常认为我们周围的一些话语会的，如果有更多可能会更好一种承认我们在内部看到的某些事情指导我们正在做的事情的空间。
但是我不知道。既然你问过什么进展顺利，我确实认为 Elon 很早就带头推动了使 Twitter 更精简。我认为，就好像你可以完全同意或不同意所有策略以及我们是如何做到的。显然，每个领导者都有自己的风格，如果你需要为此做出重大改变，你将如何执行它。
但他推行的许多具体原则基本上是试图让组织更具技术性，围绕着减少公司工程师和他之间的距离，比如减少管理层级。所以我认为这些通常是好的变化。而且我也是，我也认为他做出这些改变可能对行业有好处，因为我的感觉是有很多其他人认为这些改变是好的，但他们可能有点害羞关于做他们。
我认为他，就在我与其他创始人的谈话中，以及人们对我们所做的事情的反应，我从很多人那里听到的是，嘿，当像你这样的人时，当我在 3 月份写信概述了我想要进行的组织变革时，当人们看到 Elon 正在做的事情时，我认为这让人们有能力思考如何以某种方式塑造他们的组织希望这对行业有利，并随着时间的推移使所有这些公司更有效率。所以那是我认为他所在的地方远远领先于其他一些公司。他在那里做什么，从外面又一次，很难知道。
好吧，他剪得太多了吗？他剪的还不够吗？任何。我认为我不适合对此发表意见。你问我欣赏什么这个问题的积极框架？我认为什么进展顺利？但我认为这肯定像他的行为让我和我认为业内很多其他人思考，嘿，我们是否尽可能多地这样做了？比如，我们能否通过推行其中一些相同的原则来让我们的公司变得更好？
Meta裁员和招聘
你最近宣布了 Meta 的多阶段裁员。对个人来说，这个过程中最痛苦的方面是什么，它对那些人的生活产生了痛苦的影响？
是的，就是这样。就是这样。而且你基本上有相当多的人，他们在 Meta 的时间还没有结束，他们或我在加入公司时希望如此。
在经营一家公司时，人们不断地出于不同的方向、不同的原因加入和离开公司。但裁员具有独特的挑战性和艰难性，因为你有很多人离开，出于与他们自己的表现或当时不适合的文化无关的原因。这真的只是一种战略决策，有时在财务上需要，但我们的情况并不完全，尤其是我们今年所做的改变。在文化和战略上，我希望我们成为一家更强大的技术公司，更多地关注构建更多技术，更多地关注更快地构建更高质量的产品，这在很大程度上是由文化和战略驱动的。
我只是认为外部世界现在非常不稳定。我想确保我们有一个稳定的位置，能够继续投资于这些长期的、雄心勃勃的项目，我们围绕这些项目继续推动人工智能向前发展，并继续推动所有元宇宙的工作。鉴于我们在过去 18 个月中看到的相当大的冲击，为了做到这一点，有些是宏观经济引起的，有些是竞争引起的，有些只是因为错误的决定或我们犯了错误的事情。我不知道，我只是决定我们需要达到一个更瘦的地步。
但是看，但是，好吧，这样做是一回事，喜欢在高层做出决定。那么问题是你如何尽可能富有同情心地执行它？而且也没有什么好办法。没有完美的方法可以肯定。无论如何都会很艰难，但作为这里的领导团队，我们肯定花了很多时间思考，好吧，考虑到这是一件很糟糕的事情，就像我们能做到的最富有同情心的方式一样做这个？这就是我们试图做的。
你提到人们越来越关注工程、技术，所以技术团队、技术团队专注于构建产品。是的，我想赋予工程师更多权力，构建事物的人，技术团队。其中一部分是确保构建事物的人不仅仅是组织的叶节点。我不想像八个级别的管理人员那样实际从事工作。因此，我们进行了更改，以便您可以让独立的贡献者工程师在堆栈的几乎每个级别进行报告，我认为这很重要，因为您正在经营一家公司。最大的问题之一是您获得的信息的延迟。与运行长期项目相比，我们之前谈到过做柔术之类的反馈带来的乐趣。但实际上，我认为经营一家公司的一部分艺术就是不断地重新设计它，这样你的反馈循环就会变得更短，这样你就能学得更快。你这样做的部分方式是，我认为你在组织中拥有的每一层都意味着信息在传递给你之前可能不需要经过审查。而且我认为，让从事这项工作的人尽可能靠近你是非常重要的。就是这样。
我认为随着时间的推移，公司只是建立了非常大的支持功能，而不是从事核心技术工作。这些功能非常重要，但我认为以正确的比例拥有它们很重要。如果你想做好工作，但你没有，正确的营销团队或正确的法律建议，就像你会，犯一些相当大的错误。但与此同时，如果你只是喜欢太大事情和其中一些支持角色，那么这可能会使事情发生很大变化。也许你太保守或者你行动慢了很多比你应该的要多。这些只是例子。你如何找到这种平衡？这真的很难。
是的，不，但这是您正在寻找的持续平衡。
是的，有多少经理？管理者的优缺点是什么？嗯，我非常相信管理。我认为有些人认为这无关紧要，但是看，我们公司有很多年轻人，这是他们的第一份工作，而且，人们需要成长，在他们的职业生涯中学习。我认为所有这些都很重要，但这里有一种数学方法来看待它。
要知道，在这件事的开始，我问我们的人事团队，一位经理的平均报告数量是多少？我认为大约是三个，也许是三到四个，但更接近三个。我当时想，哇，就像一个经理可以，那个人可以管理的最佳实践，七八个人。但接近三是有原因的。那是因为我们成长得太快了，当你如此迅速地雇用这么多人时，这意味着你需要有能力入职新人的经理。而且，如果你有一位新经理，你可能不希望他们立即拥有七名直接下属，因为你希望他们能够提升。
但事情正在向前发展，我不希望我们真的那么快就雇用那么多人，所以我实际上认为，如果我们有更多的限制，我们会做得更好，而且我们作为一个组织会更精简。所以在我们没有那么快增加这么多人的世界里，有很多有额外能力等待新人的经理是否有价值？无权利？
所以现在我们可以对组织进行一些碎片整理，使平均值更接近七八个。它最终成为一种更紧凑的管理结构，它减少了信息在链条上下流动的延迟，我认为可以赋予人们更多权力。但这是一个例子，我认为它并没有低估管理的重要性以及个人成长或辅导的重要性人们为了做好工作所需要的。我认为，实际上，我们只是不会雇用那么多的人。所以我认为你需要一个不同的结构。构成公司的整个令人难以置信的等级制度和人际网络令人着迷。哦耶。
是的。你如何聘请优秀的团队？你如何聘请优秀的，现在专注于工程和技术团队，你如何聘请优秀的工程师和技术团队的优秀成员？那么，你是在问你如何选择或如何吸引他们？
两者，但选择，我想。我认为吸引是从事很酷的事情并且有远见。我认为这是对的。并拥有人们认为您实际上能够做到的记录。是的，对我来说，选择似乎更像是一种艺术形式，更像是一种棘手的事情。
您如何选择适合文化并能最有效地融入的人等等？也许，尤其是当他们年轻的时候，通过简历，通过文书工作和所有类似的东西，看到那里有一个特殊的人会做令人难以置信的工作。所以这个问题有很多不同的切入点。我认为当一个组织发展迅速时，团队面临的一个大问题是，我是否聘用现在在我面前的这个人是因为他们看起来不错，还是我坚持要找到更好的人？以及我一直专注于自己的启发式以及我自己认为有效的直接招聘方式。
当你通过组织递归时，你应该只雇用某人加入你的团队，如果你愿意在另一个宇宙中为他们工作。我认为这种方法行之有效，这基本上就是我尝试建立团队的方式。我并不急于不经营这家公司，但我认为在另一个由其他人经营公司的宇宙中，我很乐意为他们工作。我觉得我会向他们学习。
我尊重他们那种一般性的判断。他们都很有见地。他们有很好的价值观。我认为这给了你一些规则，你可以在每一层应用它。而且我认为，如果你在组织的每一层都应用它，那么你将拥有一个非常强大的组织。好吧，在一个发展速度不那么快的组织中，问题可能会有所不同。在那里，你特别询问了年轻人，比如大学毕业生。我们看到的一件事是，这是一个非常基础的课程，但就像我们更清楚谁是在公司实习了几个月的最优秀的人，而不是通过某种方式观察他们简历或简短的面试循环。
很明显，你从某人那里得到的亲身感受可能比简历更能告诉你，你可以做一些基本技能评估，但很多东西真的只是文化方面的。人们在不同的环境中茁壮成长在不同的团队中，甚至在特定公司内。就像那些在夏天来这里工作很短时间的人一样，他们在这里做得很好，你知道如果他们来全职工作，他们会很棒。这就是我们在实习方面投入如此多的原因之一，基本上就是这样，这是一个非常有用的排序功能，对我们和想尝试公司的人来说都是如此。
您亲自提到过，您如何看待远程工作？在过去的几年里，由于大流行，这个话题被广泛讨论。
是的，我认为这是，它会一直存在，但我认为两者都有价值，至少，我还不想经营一家完全偏远的公司。我认为上面有一个星号，那就是 - 你正在处理的其他一些东西，是的。是的，完全正确。这就像所有的，元宇宙的工作和存在的能力，无论你身在何处，都感觉自己真实存在。我想一旦你把所有这些都拨入，那么我们可能，有一天会达到这样一个地步，即你身在何处真的无关紧要。
然而，我不确定是否在今天的现实中依然存在这种情况，我觉得在今天，这个情况是否依然存在呢？
是的，对于那些具备特殊技能且希望在没有办公室的地方居住的人来说，这样做可能更好。
那么，让他们留在公司会更好吗？毫无疑问，这是正确的吗？很多人在公司工作了几年，逐渐建立了内部关系，并对公司的运作方式有了一定的了解和信任。现在，如果他们愿意，他们是否能够远程工作并保持高效？我们已经进行了很多研究，结果表明情况确实如此。
好的，但这是否会影响他们的绩效呢？实际上并不会。
然而，对于那些刚加入公司、职业生涯刚起步的人来说，他们需要学习如何解决一些问题并提高公司文化。在处理复杂问题时，他们不仅仅希望参加正式会议，而是希望在会议结束后能够与同事们一起在走廊上散步并享受集思广益的乐趣。
我不知道，好像我们还没有找到一种能够替代面对面交流的方式，远程会议还无法完全达到这种动态。
是的，面对面交流确实有一种特殊的魅力。我们可以继续谈论这个话题，但我对未来两年虚拟现实和混合现实中高分辨率扫描的可能性感到非常兴奋。
作为一个喜欢面对面交流的人，就像参与这些播客节目一样，如果能够以我亲眼目睹的真实水平来体验，那将是令人难以置信的。
Meta Quest3
我有机会看到Quest 3头显。这太棒了。你已经宣布了。你会在秋天提供更多细节，也许会在秋天发布。什么时候再次发布呢？我忘了你之前告诉我的时间。
我们将在Connect活动上提供更多详细信息，但它计划在今年秋季发布。售价为499美元。
那么，您最感兴趣的功能是什么？
与Quest 2相比，我们在Quest 3中基本上增加了两个重要的新功能。
首先是高分辨率的混合现实功能。
基本思想是，当你戴上头显时，你可以体验虚拟现实，所有的像素都是虚拟的，你仿佛沉浸在一个不同的世界中。
而混合现实则是让你看到周围的物理世界，你可以在其中放置虚拟对象，无论是将电影屏幕投射到墙上还是在虚拟桌面上投影。或者你正在玩一个从墙上出现僵尸，你需要射击它们的游戏，或者我们正在玩龙与地下城或一些棋盘游戏，当我们坐在这里时，面前只有一个虚拟版的棋盘。
在混合现实中，一切皆有可能。
我认为这将成为虚拟现实之上的下一个重要功能。它的表现非常出色。
不得不说，作为一个亲身经历过僵尸袭击的人，对于环境的真实感有了充分的认识，并且以他们试图接近并攻击你的方式与环境融为一体。
这只是混合现实，但它确实做得非常出色。
事实上，这款头显售价仅为500美元，真是太棒了。
谢谢。我对此非常兴奋。
我们投入了大量的工作来制造这款设备，使它尽可能好，尽可能负担得起。因为我们的使命和精神的很大一部分是希望人们能够相互连接。我们希望能够触达更多的人群，为更多的人提供这项技术。我们不仅仅是为了服务于精英和富有的人群。我们真的希望让每个人都能够使用它。
因此，在许多方面，这是一个非常具有挑战性的技术问题，因为我们不仅仅是能够提供无限量的硬件。我们基本上需要交付一些性能非常出色的产品，并以负担得起的方式提供。
去年，我们推出了Quest Pro。那款设备的售价为1,500美元。现在我们已经将价格降低到了1,000美元，但在很多方面，Quest 3中的混合现实功能比我们在Quest Pro中所能提供的更先进、更出色。因此，我对我们在Quest 3上的进展感到非常自豪。它将与所有现有的虚拟现实游戏和内容兼容。
因此，那些想要体验完全沉浸式游戏、社交体验和健身体验的人都可以使用它，而现在他们还可以体验混合现实。
我相信人们会非常喜欢这个功能，因为有时候你想要完全沉浸在游戏中，但很多时候，特别是在进行一些活动时，比如进行健身体验时，如果你在四处活动，你可能希望能够看到周围的房间，这样你就不会碰到什么东西。
我不知道你是否有过这样的体验，但我们已经有了这样的功能，它就像是我们精心制作的一个有趣演示。
但就像你所说的，我们就像在一个会议室或客厅里，你在那里有一个人，你正在和他打斗，所有其他人也在那里。
就像那个人就在那里一样。
是的，就像他就在房间里一样。其他人，这个路径，你也可以看到他们，他们可以为你加油。如果你的朋友们像我的朋友一样，他们可能会取笑你。然后，是的，这是一个非常令人兴奋的体验。
虚拟现实也很有趣，但这几乎是一个全新的体验。它融入你的生活，融入你的世界。是的，而且，我认为它会打开许多不同内容的大门。
我认为，这也会使那些不想只拥有完全身临其境体验的人感到更加舒适。我认为，如果你想要在你的起居室中和周围的物理世界相结合的体验，现在你也可以实现。
我对此感到非常兴奋。我真的很喜欢它是如何将窗户添加到没有窗户的房间中的。
我作为一个人，你有没有看到过在水族馆中可以看到鲨鱼游来游去，或者只是僵尸？只是那个僵尸，但它确实在外面。
你可能不希望在你的起居室中添加一个僵尸窗户，但是在那个游戏的上下文中，
我喜欢它，因为你可以看到外面的大自然。作为一个没有窗户的人，拥有看到大自然的机会真的很棒。
是的，好吧，即使这是一个混合现实设置。
我知道这是一款僵尸游戏，但其中有着禅宗的本质。禅宗的一面是能够看到外面并改变你所知道的环境。
可能会有更好、更禅宗的方法来实现这一点，比你描述的僵尸游戏更好。但你是对的，让你的物理环境通过的基本想法，然后能够引入不同的元素，我认为它会非常强大。
在某些方面，我认为这些是混合现实的未来，这也是我们将来可能会获得AR眼镜的前身，而不仅仅是目前一代头显的护目镜形状。
但我认为开发人员为混合现实所做的许多体验基本上就是将一个全息图放在这个世界上，一旦我们也获得了AR眼镜，这些体验有望得到应用。现在它面临着自己的一整套挑战，而且它是好吧，头显已经比以前的版本小了。
哦，是的，它薄了40%。
我认为另一件好事是，是的，混合现实是第一件大事。
第二是它只是一款很棒的VR头显。它具有2倍的图形处理能力，屏幕清晰度提高了40%，薄度降低了40%，更舒适，表带结构更好，所有这些东西，如果您喜欢Quest 2，我认为这将会是，就像您可能在Quest 2中玩过的所有内容一样，Quest 3会自动变得更清晰并且看起来更好。
我认为人们真的会喜欢它。
苹果的Vision Pro
今年秋天，我不得不问，Apple刚刚宣布了一款名为Vision Pro的混合现实头显，售价3,500美元，将于2024年初上市。你觉得这款头显怎么样？
好吧，我在他们推出时看到了这些材料。我还没有机会体验过它。
所以对于所有的事情都持保留态度，但有一些高层次的想法。
首先，我确实认为这是某种程度的验证对于这个类别的存在，我们在这个领域的主要人物认为，嘿，我认为这个虚拟现实、增强现实、混合现实将成为下一个重要的计算平台的组成部分。
我认为，让Apple加入并分享这个愿景，会让很多人成为他们产品的粉丝，并认真考虑一下。
然后，当然，3,500美元的价格，一方面，我得到了他们试图打包的所有东西。另一方面，很多人可能会认为这是负担不起的。
所以我认为他们的加入可能实际上增加了对整个领域的需求，而Quest 3实际上是其中的主要受益者，因为很多人可能会说，嘿，我想我会再考虑一下这个，或者现在我明白也许混合现实更重要，而Quest 3是市场上我能买得起的最好的。
它也很棒，我认为那是，并且以我们自己的方式，我认为我们在领先的位置拥有很多功能。所以我认为那是，我认为会非常非常好。
然后显然随着时间的推移，这些公司只是专注于一些不同的事情。是的，Apple一直，我认为专注于打造真正的高端产品。虽然我们的重点一直在，但我们有更加民主的精神。我们想要构建更多人可以使用的东西。我们已经售出了数千万台Quest设备。我了解的是，仅基于谣言，苹果公司正在制造大约100万台设备。
是的，就你对销售数字的期望而言，我只是认为，在可预见的未来，Quest将成为市场上人们将继续使用的主要产品。
然后很明显，从长远来看，这取决于公司，看看我们每个人在做什么方面。
但我们来自不同的角度。我们非常注重社交互动、沟通、更加活跃，所以有健身、游戏和其他方面。虽然我认为你在Apple的发布材料中看到的很多用例更多地围绕着坐着的人，人们盯着屏幕看。这很棒。
我认为随着时间的推移，你将使用头显代替笔记本电脑。
但我认为公司在追求不同的用例方面有一些不同的设计权衡，而我们更专注于某种社交体验、娱乐体验。
然而，如果您想确保在屏幕上阅读的文本尽可能清晰，那么您需要在设计和成本之间做出权衡，这导致您制造了一款价值3,500美元的设备。
所以我认为肯定有一个用例，但我只是认为公司已经做出了不同的设计权衡，以满足我们试图服务的用例。
AI安全性风险
关于Metaverse，我还有很多其他的事情想和你谈谈，尤其是Kodak Avatar，我最近体验了很多不同的变体，我真的非常非常兴奋。
我也很高兴谈论这个。
我将稍等一下，因为好吧，我认为在这方面还有很多值得炫耀的地方。但是让我回到人工智能。
我想我们之前提到过一点，但我想继续讨论这个问题，像Ilya这样的人和其他人对于人工智能的严重威胁现在重新焕发活力。你是否像Ilya一样担心人工智能的风险，担心对齐问题，担心失控的可能性？
任何时候，如果有许多严肃的人对你所涉及的事情提出存在主义的担忧，我认为你必须考虑一下，
所以我花了相当多的时间试图从这个角度考虑它。我现在基本上已经得出的结论是，我确实认为有，随着时间的推移，我们需要更多地考虑这个问题，因为我们正在接近可能更接近超级智能的东西。
我只是认为今天从事这些项目的任何人都非常清楚我们还没有达到那个阶段。
我担心的一个问题是，我们之前在这个领域上花了相当多的时间，但还有更多要做的事情。我不知道世俗这个词是否合适，但已经存在一些担忧，关于人们使用人工智能工具来做我们已经知道的那些有害的事情，无论我们谈论的是欺诈、诈骗还是类似的事情。这将是从事这项工作的公司需要应对的一系列相当大的挑战，不管在未来的某个时候是否存在生存问题。
所以我确实担心在某种程度上，人们可能会过于关注一些尾部风险，然后在短期内几乎可以确定的实际风险出现时做我们需要做的事情。因此，我将大部分时间花在了增加与我们正在构建的东西相去甚远的规模上。
但我认为一旦我们更接近那一步，我意识到当我们越来越接近时，我认为那些关于我们如何确保系统真正安全的问题将会出现新的风险和问题。
我想在这里改变一下谈话的方向。我认为在围绕安全展开的一些辩论中，智能和自主的概念有时被混淆起来。就像一个类比，它们有点混为一谈。
而且，我认为很有可能你可以在相当大的范围内制造一些智能的东西，但这可能不会表现出安全问题。人们说的是，如果你看看人类生物学，我们有我们的大脑皮层，所有的思考都在这里发生，但它并没有真正在一天结束时做主。我们有一个更原始的旧大脑结构，我们的新皮质，也就是这个强大的机器，基本上只是一种预测和推理引擎，帮助它有点像我们非常简单的大脑决定如何计划和做它需要做的事情，以实现这些非常基本的冲动。
我认为你可以沿着同样的思路思考一些智能的发展，就像我们的新皮质没有自由意志或自主权一样，我们可能会开发出这些非常智能的系统，它们比我们的新皮质更聪明，容量更大，但与此相同的是，我们的新皮质有点从属，被我们这种简单的冲动脑用作工具。
我认为，具有思考能力的非常智能的系统会像新皮质的延伸那样行动，这并不是不可能的。所以我认为我自己的观点是我们真正需要注意的地方是自治的发展以及我们如何看待它。因为实际上情况是相对简单和不智能的东西具有失控的自主权并且会自行传播，或者就像我们有一个词一样，它是一种病毒，它可以是简单的计算机代码，不是特别智能，但会自行传播并造成很多伤害，无论是生物还是计算机。
我只是认为这些在某种程度上是可以分离的。当人们谈论安全和责任时，我认为我们需要发展的很多东西实际上是对可以赋予系统的自治权的治理。对我来说，如果我是政策制定者或者考虑这个问题，我真的很想考虑这些之间的区别。我认为构建智能系统可以在人们的生活质量和经济生产力增长方面取得巨大进步，但我认为我们真正需要取得进展的是其中的自治部分，在我们让它们自己做出很多决策或给予它们目标等能力之前，我们需要负责任地管理这些事情。
我知道这是一个研究问题，但我确实认为这些在某种程度上是可以分离的。我喜欢智能和自主性之间的区别以及大脑皮层中的隐喻。
权力
让我们继续谈谈。所以构建超级智能系统，即使不是在短期内，我认为Meta是少数几家将开发超级智能系统的公司之一，如果不是主要公司的话。而你是这家公司的负责人。建立AGI可能会让你成为世界上最有权势的人。你担心那种权力会腐蚀你吗？
这是一个有趣的问题。看，我认为很现实，这又回到了我们之前讨论过的开源问题，我认为世界不会得到最好的服务，由任何少数几个组织来提供这个，但它不是更广泛可用的东西。我认为如果你回顾历史，正是当出现诸如单极进步之类的事情，以及权力不平衡之类的事情时，它们才会成为一种奇怪的情况。所以这就是为什么我认为开源通常是正确方法的原因之一。
我认为，当我们离超级智能还很远的时候，这是一个截然不同的问题。我认为即使我们接近超级智能，也很有可能，开源仍然是正确的方法，尽管我认为在这一点上，这是一场有点不同的辩论。但我认为部分原因是，我认为这是确保系统尽可能安全可靠的最佳方法之一，因为它不仅仅是很多人都可以访问它。构建开源系统时需要进行审查。我认为这是关于开源的一个被广泛接受的事情，那就是你有代码，所以任何人都可以看到漏洞。任何人都可以用不同的方式搞砸它。人们可以衍生出自己的项目并以多种不同的方式进行试验。所有这一切的最终结果是系统变得更加坚固，变得更加安全。
所以我认为这有可能最终成为下一代人的方式，成为这样的方式是一个很好的机会。开放这一点既会导致技术更健康的发展，也会导致技术的更平衡分布，这让我觉得这是值得追求的良好价值。
所以对你来说，风险，开源是有风险的，但好处大于风险。两者之间很有趣。我认为你所说的方式，你说得好，现在有一个不同的讨论，而不是当我们接近开发开源的好处和风险的超级智能时。是的，需要明确的是，我对开源模型现在是净积极的评估很有信心。我认为有一个很好的论据表明，即使你越来越接近超级智能，未来也会如此，但我还没有，我当然还没有决定。而且我认为这会变成一组更复杂的问题，我认为人们将有时间进行辩论，并且还会了解从现在到那时发生的事情并做出这些决定。我们不必现在就在理论上就此进行辩论。
AGI超级智能
你认为我们将在哪一年拥有超级智能？
我不知道。那纯粹是猜测。我认为很明显，只是退后一步，我们在去年取得了重大突破。LLM和扩散模型基本上达到了可以做一些非常有趣的事情的规模。然后我认为问题是从这里会发生什么？只是为了描绘两个极端，一方面，好吧，好吧，我们刚刚取得了一个突破。如果我们有另一个或两个这样的突破，那么我们就能拥有真正疯狂的东西，就像更高级一样。在争论的那一边，好吧，好吧，也许我们只有几步之遥从达到看起来更像一般情报的东西。好的，这是争论的一方面。
而另一方面，也就是我们在历史上看到的更多，是突破导致在Gartner炒作周期中，有炒作，然后是幻灭的低谷，之后人们认为有机会，嘿，好吧，有一个重大突破。也许我们即将获得另一个重大突破。实际上，你不会再有突破了。也许你实际上只需要和这个人坐一会儿。可能是五年，也可能是10年，可能需要15年才能弄清楚需要弄清楚的下一件大事。但我认为，我们刚刚取得这种突破的事实使得我们对接下来发生的事情几乎处于一个非常大的误差线。
我认为传统的技术观点，就像看这个行业一样，这表明我们不只是要在突破之上叠加突破，像每六个月或什么的。现在，我想它会，我猜，我猜这之间需要更长的时间。但是我不知道。我也倾向于对突破持乐观态度。所以所以我认为如果你对我正常的乐观情绪进行了规范化，那么它可能会比我说的还要慢。但即便如此，对于需要多少突破才能获得通用智能这个问题，我什至都没有发表意见，因为没有人知道。但是这个特殊的突破是如此，如此小的一步却导致了人类所经历的如此巨大的性能飞跃，它让你想，哇，当我们偶然发现这个非常开放的研究世界时，我们是否会偶然发现跨越另一件会在性能上有巨大飞跃的东西？
而且我们也不知道具体在哪个阶段它真的会让人印象深刻吗，因为感觉它真的在侵蚀令人印象深刻的智能水平。
您仍然没有回答我们将在哪一年拥有超级智能的问题。
我想让你坚持下去。不，我只是在开玩笑。
但是关于时间表你有什么可以说的吗当你考虑AGI、超级智能系统的发展时？
当然，所以我仍然认为我对何时会创建一个通用智能的单一AI系统没有任何特别的见解。但我认为大多数人的一件事在我所看到的关于这个的讨论中，还没有真正解决的是我们似乎确实有世界上已经展现出超越人类智慧的组织和结构。一个例子是一家公司，它作为一个实体，它有一个独特的品牌。很明显，这是一群人的集合，但我当然希望拥有数万人的Meta做出比一个人更明智的决定。但我认为，如果不这样做，那就太糟糕了。
我认为另一个例子与我们思考拟人化的方式更不一样这些问题中经常隐含的智力是思考诸如股票市场之类的东西。股市在哪里，它需要输入，它是一个分布式系统，它就像控制论的有机体，全世界可能有数百万人基本上每天都通过选择投资什么来投票。但它基本上是这个有机体或结构这比我们用来在世界范围内尽可能有效地分配资本的任何人都聪明。
我确实认为这个概念已经存在这些控制论系统正在融合多人的智慧结合在一起，或者将多人的智慧和技术融合在一起形成比世界上任何人都聪明得多的东西，是似乎存在的东西，我们似乎能够以富有成效的方式为我们的社会利用，只要我们基本上建立彼此平衡的这些结构。所以我不知道。这至少给了我希望，随着我们技术的进步，我不知道它到底会持续多久，但你问过，它什么时候会存在？我认为在某种程度上，我们世界上已经有许多组织比一个人更聪明。这似乎是在推动人类进步方面普遍富有成效的事情。不知何故，个体人工智能系统赋予个体人类和这些人类之间的互动以让你所指的集体智能机器变得更聪明。人工智能并没有变得超级智能。它正在成为使集体智慧主要是人类更聪明的引擎。
是的，它正在更好地教育人类。这使他们能够更好地了解情况。它使他们能够更有效地进行有效沟通和辩论想法。通过这个过程，只会让整个集体智慧变得越来越聪明。也许比以人类数据训练的单个AI系统变得更快。人类的集体智慧可能会超过人工智能的发展。这是一场比赛。我认为这里有一个平衡，因为如果训练系统的很多输入基本上来自人们的反馈，那么很多开发确实需要在人的时间内进行。
对，不像机器将能够去学习所有关于人们如何看待事物的东西。这需要如何工作有一个周期。
Murph 挑战
我们生活在一个令人兴奋的世界，而您正处于发展的最前沿。保持谦虚的方法之一，就像我们在柔术中提到的那样，是在精神和身体上进行一些非常困难的挑战。您最近做过的其中一项活动是Murph Challenge。你玩得很开心。
它是100个引体向上，200个俯卧撑，300个深蹲，前一英里，后一英里跑。你的时间不到40分钟。
最难的部分是什么？
我想很多人都印象深刻。这是非常令人印象深刻的时间。
是的，我很高兴。
你有多疯狂，我想这就是我要问的问题。
这不是我最好的时间，但任何低于40分钟的时间，我都很满意。
那不是你最好的时间？
不，我想我以前做得更快了一点，但并不多。
在我的朋友中，我没有在阵亡将士纪念日获胜。我的一个朋友实际上比我快了几分钟。
但为了澄清一件事，我认为是，我在互联网上看到了很多关于这个的问题。有多种方法可以进行Murph Challenge。有一种分区模式，你可以一起做一组引体向上、俯卧撑和深蹲。然后在你做100个引体向上的地方没有分区，然后连续做200个俯卧撑，然后做300个深蹲。很明显，如果你不分开做，那么完成100个引体向上需要更长的时间，因为你在两次引体向上之间休息的任何时候，你都不会同时做俯卧撑和深蹲。所以是的，我确定我的未分区时间会慢很多。
但不，我想在这结束时，我不知道，首先，我认为这是纪念阵亡将士纪念日的好方法。这位墨菲中尉，基本上，这是他最喜欢的练习之一，我只是试着在每年的阵亡将士纪念日做这件事。这是一个很好的锻炼。
这次我让我的大女儿和我一起做。我的大女儿想要一件负重背心，因为她看到我穿着一件负重背心。我不知道一个七岁的孩子是否应该使用重量背心做引体向上，但是- 父母必须问自己的一个难题，是的。我当时想，也许我可以为你做一件非常轻便的背心，但我认为这对它没有好处。所以她基本上做了四分之一墨菲。所以她跑了四分之一英里，然后做了25次引体向上、50次俯卧撑和75次深蹲，然后在15分钟内又跑了四分之一英里，这给我留下了深刻的印象。
还有我五岁的孩子，所以我对此很兴奋。我很高兴我正在教他们体力的价值。
是的，我认为对我女儿Max来说，美好的一天是她和我一起去健身房做一堆引体向上的时候。我喜欢她这一点。我认为这很好。她，希望我能教给她一些好的练习。
信仰
这里更广泛的问题是，考虑到你有多忙，考虑到你生活中有多少事情要做，什么是完美的锻炼方案为你，让自己快乐，让自己在主要工作中保持高效？
是的，所以现在我的大部分训练都集中在格斗上。所以柔术和MMA。但我不知道，也许如果你是专业人士，你每天都可以这样做。我不能，我只是得到，有太多的瘀伤和你需要恢复的东西。所以我每周做三到四次。然后前几天，我只是尝试做一些混合的事情，比如有氧运动、力量训练、活动能力。所以你每天都尝试做一些体力活动？
是的，我尝试这样做，除非我太累了，我只需要放松一下。但之后我还是会试着去散散步什么的。
即使在这里，我也不知道，你到过这里的屋顶吗？
不，我们会在这之后去屋顶。我听说过一些事情。但这我们设计了这座建筑，然后我在屋顶上放了一个公园。这样一来，就像我的会议一样，我只是在进行一对一的交流或与几个人交谈。我很难坐着。我觉得它变得超级僵硬，感觉真的很糟糕。
但我不知道，身体对我来说很重要。我认为这是，我不相信，这涉及到关于 AI 的问题。我不认为一个存在只是一个头脑。我认为我们有点想做事，喜欢身体，我们感觉到的很多感觉都与此相关。而且我认为这就是让你成为一个人的很多原因基本上是拥有那些，拥有围绕着它的一系列感觉和体验再加上对它们进行推理的想法。
但我不知道，我认为平衡对于走出去、以不同的方式挑战自己、学习不同的技能、理清思绪很重要。
你认为人工智能，为了变得超级智能，AGI 应该有身体吗？
这取决于目标是什么。我认为在那个问题中有一个假设，即智力应该有点像人。然而，正如我们刚才所说的，你可以拥有像股票市场这样的比单个人类更强大的智能有机体，它们显然没有身体，也不会说语言，并且喜欢，只是有点拥有自己的系统。
但是，所以我不知道，我的猜测是，如果没有相同的，不仅仅是感官，而是像，随着年龄的增长，我们的身体会发生变化，我们有点进化。我认为那些非常微妙的身体变化就像当你选择生孩子时一样，只是推动了很多社会模式和行为，就像所有这些一样，那甚至不是微妙的，那是主要的，
但是就像你如何设计房子周围的东西一样。所以是的，我认为如果目标是尽可能多地了解人们，我认为那就是，尝试对这些感觉进行建模可能有点重要，但我认为拥有智能可以创造很多价值，即使与智能分开，它也是一个独立的东西。
所以作为人类的特征之一就是我们会死，我们会死。我们已经多次谈论人工智能，谈论我们自己的潜在复制品。你认为你和我的 AI 复制品会在我们离开后仍然存在很长时间，家人和亲人可以与之交谈吗？
我认为我们将有能力做这样的事情。我认为其中一个大问题在社交网络的背景下，我们不得不努力解决的问题是谁能够做到这一点？而我对此的回答是，在我们正在做的工作的背景下，这应该是你的选择，我认为任何人都不应该能够选择制作一个人们可以选择与之交谈的 Lex 机器人并开始训练它。我们有打这些电话的先例，有人可以为 Lex 粉丝俱乐部创建一个页面，但你不能创建一个页面并说你是 Lex。
所以我认为，同样，我认为，也许，有人也许可以，应该能够制造一个 AI，它是 Lex 的崇拜者，有人可以与之交谈，但我认为它最终应该是是否有 Lex AI 由您决定。
好吧，我正在开源 Lex。
所以你是一个有信仰的人。信仰在你的生活、你对世界的理解、你对自己的生活的理解、你对你的工作的理解以及你的工作如何影响世界中扮演了什么角色？
是的，我认为其中有几个不同的部分是相关的。有某种哲学部分，也有文化部分。最基本的课程之一就在创世记的开头，就像上帝创造了地球，创造了人，并按照上帝的形象创造了人。还有一个问题，这是什么意思？在旧约的那一刻，关于上帝的唯一背景就是上帝创造了万物。
所以我一直认为，从中得到的一个有趣的教训是，创造事物是一种美德。这就像它是否具有艺术性，或者你是否正在构建对其他人有用的东西。我认为这本身就是一件好事。这在很大程度上推动了我对道德的看法和我的个人哲学一样，什么是美好的生活，
我认为这是一个你在帮助你周围的人，你正在成为世界上一种积极的创造力，正在帮助将新事物带入世界，无论他们是令人惊叹的其他人、孩子，或者只是导致创造出不同的东西，否则这些东西是不可能的。所以这对我来说是一个非常重要的价值。我只是喜欢花时间和孩子们在一起，看到他们有点，试图将这种价值传授给他们。没有什么比我下班回家看到我女儿喜欢在桌子上拼乐高积木之类的东西更让我开心的了。好吧，我小时候就这样做过，许多其他人正在这样做。我希望你不要失去那种精神，当你长大了，你想继续建立不同的东西，不管它是什么，对我来说，这很重要。
这就是哲理篇。我认为文化作品只是关于社区和价值观，我认为自从有了孩子以来，这部分内容对我来说变得更加重要。当你还是个孩子的时候，它几乎是自动驾驶的，你正处于一种被灌输到你生活阶段的状态。有一段时间我并没有真正考虑过宗教。在我有孩子之前，我在上大学。然后我认为生孩子真的能让你思考你想传授什么传统，你想如何庆祝，喜欢你想要的生活平衡。
你提出的一堆问题和我们正在谈论的一堆事情。只是窗帘落下的讽刺，因为我们正在谈论死亡率。再一次，和上次一样。这只是宇宙在运转，我们肯定生活在模拟中，但请继续。
社区、传统和价值观、信仰和宗教仍然存在。我们今天讨论的很多话题都围绕着如何平衡，是否在经营一家公司或与此不同的责任。你如何平衡。
而且我也一直认为，相信有比你大得多的东西在引导事物，这是非常有根据的。除其他外，这会让你有点谦逊。当你追求创造精神时与你交谈，创造世界之美。正如陀思妥耶夫斯基所说，美将拯救世界。
马克，我是你的超级粉丝。很荣幸能够称你为朋友，我期待着明天在柔术比赛中踢你的屁股和你踢我的屁股。我们都参与这项令人难以置信的运动和艺术。非常感谢你今天的谈话。感谢您在如此众多激动人心的技术和人类生活领域所做的一切。我迫不及待地想在虚拟世界中再次与您交谈。谢谢。
