李杉 夏乙 编译整理
量子位 出品 | 公众号 QbitAI
人们说，人工智能会带来风险，人工智能产业要促进，人工智能需要监管，人工智能军备竞赛愈发激烈。
他们还说，人工智能人才非常非常短缺，年轻人，如果你想入行……
深度学习教父Geoffrey Hinton的建议，值得一看。在一份访谈中，他面向想做人工智能研究的年轻人，给出了一些忠告。当然，前边所说的风险、监管、产业等等问题也都有谈及。
这份访谈，来自马丁·福特（Martin Ford）新书，《智能缔造者：人工智能开发者口述真相》（Architects of Intelligence: The Truth About AI from the People Building It）。
Hinton认为，年轻人如果读个硕士然后就直接进入工业界，对研究是不利的。这样的人提不出全新的想法，学界应该留住那些受过良好教育的研究生，他们需要坐下来，思考几年才行。
他也鼓励年轻人批判地看待基础理论、挑战基本假设，也要在认为大家想法都错了的时候，坚持自己的直觉。
以下，是《智能缔造者》中节选出来的这段访谈：
福特：我们来谈谈人工智能的潜在风险。有一个具体挑战是对就业市场和经济的潜在影响。你是否认为所有这些都可能引发新的工业革命并彻底改变就业市场？如果是这样，我们真的需要为此担忧，还是说这可能又被夸大其词了？
Hinton：如果你能够大幅提高生产力并提供更多好处，那应该是一件好事。
它是否是一件好事完全取决于社会制度，根本不取决于技术。人们却在研究技术，就像把技术进步是一个问题一样。
问题在于社会制度，在于我们是否会建立一个公平分享的社会制度，或者说，我们的社会制度会是公平的，还是会让所有进步集中体现在1％的人群身上，然后把剩下的人看得一文不值。
这与技术无关。
福特：那么问题就来了，因为很多工作都会消失——特别是可以预测，而且易于自动化的工作。社会对此作出的反应是为这类人提供基本收入。你同意这种做法吗？
Hinton：是的，我认为基本收入是一个非常明智的想法。
福特：那么，你认为需要通过政策来解决此事吗？有些人认为我们应该让事情自然发展，但那似乎不负责任。
Hinton： 我搬到加拿大是因为这里税率较高，因为我认为正确的税收是好事。政府应该做的是建立各种机制，以便当人们出于自身利益行事时，也会帮助到每个人。高税收是一种这样的机制：当人们致富时，其他人都会获得税收的帮助。
想要确保人工智能让每所有人都受益，还有很多工作要做。我当然认同这种观点。
福特：你对其他一些跟人工智能有关的风险怎么看？比如武器化？
Hinton：是的，我对普京总统最近所说的一些事情感到担忧。
我认为人们现在应该采取非常积极的措施，努力让国际社会以对待化学武器和大规模杀伤性武器的态度，来对待那些不需要人类参与就能杀死人类的武器。
福特：你是否赞成暂停某种类型的研发？
Hinton：这种类型的研发不会暂停，就像神经毒剂的发展也没有暂停一样，但的确有一套国际机制来阻止它们被广泛使用。
福特：除军事武器外，你怎么看待其他风险？是否有其他问题，比如隐私和透明度？
Hinton：我认为有，用它来操纵选举和选民非常令人担忧。剑桥分析由Bob Mercer成立，他是一名机器学习研究人员，你已经看到剑桥分析造成了很大的破坏。我们不得不认真对待。
福特：你认为有监管空间吗？
Hinton：是的，需要很多监管。这是一个非常有趣的问题，但我不是这方面的专家，所以谈不了太多。
福特：你怎么看一般的全球军备竞赛？你认为不应该让一个国家遥遥领先领先其他国家吗？
Hinton：你所谈论的是全球政治问题。
很长一段时间，英国是一个占主导地位的国家，但他们表现得不是很好。
然后就是美国，他们表现得也不是很好。
换一个国家主导，我也不指望他们会有很好的表现。
福特：你认为我们应该采取某种形式的产业政策吗？美国和其他西方政府是否应该关注人工智能，并将其作为国家重要发展方向？
Hinton：技术将迎来巨大的发展，如果一个国家不努力追赶潮流，它肯定是疯了。所以很明显，我认为应该有很多投资。这在我看来似乎是常识。
福特：总的来说，你对这一切感到乐观吗？你认为人工智能是利大于弊吗？
Hinton：我希望利大于弊，但我不知道最终能否如愿。这是一个社会制度问题，而不是技术问题。
福特： 人工智能人才短缺，大家都在招聘。对于想要进入这个领域的年轻人，你有没有什么建议？你能否再提一些建议来吸引更多人，让他们成为人工智能和深度学习方面的专家？
Hinton：我担心为基础理论挑毛病的人不够多。
我提出的“Capsules”(胶囊网络)的想法就是想说，也许我们现在做事的一些基本方法并不是最好的，我们应该抛出一张更大的网。我们应该思考一些非常基本的假设有没有替代品。
我给人们的一条建议是，如果你的直觉告诉你，人们在做的事情并不对，而且可能有更好的方法，你应该遵循你的直觉。
你很可能是错的，但是除非人们在思考如何彻底改变事物时遵循直觉，否则就会深陷其中。
还有一点担忧，是我认为新思想最富饶的来源是在大学中接受过良好教育的研究生。他们可以自由地提出真正的新想法，他们学到的东西足以让他们不再单纯重复历史，我们应该留住这些人。
获得硕士学位然后直接进入工业界的人不会提出全新的想法。我认为你需要坐下来思考几年。
福特：加拿大似乎成了深度学习中心。这是偶然事件，还是说加拿大有什么特别的地方起到了帮助？
Hinton：加拿大高级研究院（CIFAR）为高风险领域的基础研究提供资金，这非常重要。
还有很多事情有运气成分，比如Yann LeCun（他曾经短暂当过我的博士后）和Yoshua Bengio也都在加拿大。我们三个人可以形成非常富有成果的协作，CIFAR为这种合作提供了资助。
那时，我们身处一个充满敌意的环境中感觉有点孤立——深度学习的环境直到最近才变得友好起来——所以获得这笔资金给我们很大帮助，让我们可以用很多时间召开小型会议，展开相互交流。在那里，我们可以真正分享尚未发表的想法。
One More Thing
在《智能缔造者》这本书里，还有很多AI领域名人的访谈。
比如和Hinton并称三巨头的Yoshua Bengio、Yann LeCun，著有人工智能经典教材的伯克利教授Stuart Russell，让马斯克对人工智能产生兴趣和恐惧的牛津大学哲学教授Nick Bostrom，还有我们熟悉的李飞飞、吴恩达、DeepMind创始人Demis Hassabis等等，共23人。
中文版目前还没有，希望以后能见到。
(☆☆)
—完—
加入社群
量子位AI社群开始招募啦，欢迎对AI感兴趣的同学，在量子位公众号（QbitAI）对话界面回复关键字“交流群”，获取入群方式；
此外，量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募，面向正在从事相关领域的工程师及研究人员。
进专业群请在量子位公众号（QbitAI）对话界面回复关键字“专业群”，获取入群方式。（专业群审核较严，敬请谅解）
诚挚招聘
量子位正在招募编辑/记者，工作地点在北京中关村。期待有才气、有热情的同学加入我们！相关细节，请在量子位公众号(QbitAI)对话界面，回复“招聘”两个字。
喜欢就点「好看」吧 !
