引言:太浩湖畔哈拉斯赌场731号房间的一桩交易,如何改写了深度学习乃至整个科技产业的命运。
一场秘密拍卖,扣响AI霸权之争的发令枪
文| Cade Metz
翻译|谢幺
1
2012年12月,美国多伦多市,杰佛里辛顿(Geoffrey Hinton)踏上一辆前往太浩湖的巴士,可他并没有找个座坐下来。他已经七年没坐下来过。“我最后一次坐下是在2005年”他说,“当时就不该坐。”
十几岁那年,辛顿帮母亲搬一个取暖器时受了背伤,从此落下病根。等到临近五十岁,他再也不敢坐下,因为腰椎间盘有滑脱的风险,一旦滑脱,能疼得他好几周下不了床。他在多伦多大学办公室工作时用的是站立式办公桌。吃饭时,他就在地上放一块小泡沫垫,跪在桌子旁,像个和尚跪在祭坛前。
坐车时,他平躺在汽车后座上,长途旅行时,他乘火车或坐船,不坐飞机,至少不坐普通的商业航机,因为起飞和降落时,他会被要求坐起来。“后来我感觉恐怕要瘫痪我可受不了这个所以我开始认真对待这件事。”他补充道,“如果在生活中时刻注意,倒也没多大问题。”
那年秋天,辛顿躺在长途巴士的后座,一路从多伦多市颠簸到纽约市,又转乘火车,沿着内华达山脉的山脊穿越2700英里到加利福尼亚洲的特拉基市,下了火车,再躺在出租车的后座上整整一个小时,长途跋涉到南太浩湖。
出发前不久,辛顿创建了一家新公司。这家公司只有三个人:他和他大学实验室里的两个年轻学生。这家公司没有产品,也没有任何生产计划,公司网站上写着不明所以的字:“DNN研究”,除此之外啥都没有。
若不是两位学生相劝,辛顿可能不会创办这么一家公司。64岁的他在学术界一向过得自在,顶着一头蓬乱的灰发,穿着羊毛毛衣,与人谈笑风生。然而,就在辛顿前往南太浩湖时,世界上最大的几家科技公司也在暗中筹备,都想收购他这家刚创立的公司。
Geoffrey Hinton
他终于到达哈拉(Harrah's)和哈维(Harveys),这两家大型赌场依山傍湖,像两块由玻璃、钢铁和石材构成的大板子矗立在山间松树之上,里头有数百个酒店房间,数十个会议中心和各式各样的豪华餐厅。
那年12月,一群计算机科学家相聚在这里,举办一年一度的NIPS会议,NIPS的全称是Neural Information ProcessingSystems 神经信息处理系统,这个名字揭示着计算机的未来这场会议致力于探讨人工智能。
辛顿出生于伦敦,自从20世纪70年以来,他就往返于英国、美国和加拿大的大学之间,探索人工智能的前沿,几乎每年都去NIPS。但这次不同于往常,对他而言,今年这场会议兴许也是做一场高赌注拍卖的理想场所。
2
时间回到两个月前,辛顿和他的学生改变了机器看世界的方式。
他们建立了所谓的“神经网络”,这是一种以大脑中神经元网络为模型的数学系统,它可以识别花朵、狗和汽车等常见物体,其精确度惊为天人。
正如辛顿和他的学生对外展示的那样,神经网络可以通过分析大量数据来获得上述这些非常人性化的技能,他们把这个过程称之为“Deep Learning”“深度学习”。
深度学习蕴含着巨大潜力,一旦释放,不仅将改变计算机视觉,未来还将彻底改变世界的方方面面,从会说话的数字助理,到无人驾驶汽车,再到医药研发……
神经网络的想法最早可以追溯到20世纪50年代,但是早期的先驱者从未成功地让它像人们设想的那样发挥作用。新世纪来临时,大多数研究者已经放弃了这个想法,他们坚信这是技术上的死胡同,“数学系统可以用某种方式模仿人类大脑”的理论完全是50年代人们的妄念。
那些仍在坚持探索神经网络技术的人,在向学术期刊提交研究论文时,经常会把它伪装成一个其他东西,用一个其他的词来替代“神经网络”,以防止惹到其他科学家。
有朝一日,深度学习会释放其潜力,机器不仅能识别物体,还可以识别口语离家自然语言,进行对话,甚至解决人类无法解决的问题,为探索生物学、医学、地质学和其他科学的奥秘提供新的,更敏锐的方法。辛顿是当时为数不多的坚信这件事的人之一。
即便在辛顿所在的顶尖大学的内部,这种想法都被视作妄念。多年来,他不断地向学校申请再聘请一位教授,和他在这条路上一起砥砺前行,可始终被拒绝。“做这事儿的疯子,有一个就够了。”校方说。
但是,2012年秋天,一篇论文从辛顿和实验室学生们的手里发出,以长达9页的篇幅向全世界宣布:神经网络确实可以像辛顿之前所宣称的那样强大。
论文发表几天后,辛顿收到一位AI研究员的电子邮件,此人名叫余凯,曾在中国科技巨头百度工作。
乍一看,辛顿和余凯之间似乎八竿子打不着关系。
辛顿出生在战后英国一个影响力极大的上层社会科学家家族,曾在剑桥学习,获得爱丁堡大学的人工智能博士学位,并在接下来的四十年中大部分时间教授计算机科学。
余凯比辛顿小30岁,在中国长大,是一位汽车工程师的儿子,先后在南京和慕尼黑求学,之后到硅谷的一家公司从事技术研究工作。
无论是从阶级、年龄、文化、语言还是地理位置,都毫不相干,可是,对神经网络的共同信念像一只无形的手,将他们推到一起。
他们最初在加拿大的一个学术研讨会上见面,这个研讨会旨在复兴整个科学界几乎处于休眠状态的研究领域,并将其重新命名为“deep learning(深度学习)”。余凯,这个瘦小,戴着眼睛的圆脸男人,是深度学习的虔诚信徒,AI的布道者之一。
2015年余凯离职创办创办了AI技术公司“地平线”
当多伦多大学发表那篇长达9页的论文时,余凯告诉百度的智囊团:得赶紧把辛顿挖过来,越快越好。一封推荐邮件发给百度副总裁,后者立即出价1200万美元,邀请辛顿和他的学生来为百度工作几年。
眼看着辛顿就要和他在北京的追求者达成协议,他却忽然迟疑了。那几个月里,他与其他几家大小公司也建立了联系,包括百度在美国的两家最大的竞争对手。他们也给他在多伦多的办公室拨去电话,询问如何聘请他和他的学生。
看到还有更大的机会,他问百度,接受这1200万美元之前,是否可以让他再看看别的邀约,百度同意了,于是剧情180度反转。
在学生们的刺激下,辛顿意识到一件事:相比从学术界挖来几个新员工,百度和竞争对手们更愿意花大价钱收购一家公司。于是他创办了一家自己的创业公司,公司名字DNNresearch是为了向他们研究的深度神经网络(DeepNeuralNetworks)致敬。
他问律师:如何才能让一家只有三名员工、没有产品,几乎没有任何历史的初创企业的价格最大化。律师说有两个选择,第一个选择是雇佣一位专业的谈判代表和收购方讨价还价,冒着可能谈崩的风险。第二个选择是安排一场拍卖会。辛顿选择了第二个。
最终,四个名字出现在竞标列表:百度、谷歌、微软和Deep Mind一家成立了两年的伦敦初创公司,联合创始人是年轻的神经科学家德米斯哈萨比斯(Demis Hassabis),地球上大多数人从未听说过这个人和这家公司的名字。
坐在棋盘左侧的是Demis Hassabis
3
到了拍卖当周,谷歌工程主管艾伦尤斯塔斯(Alan Eustace)驾着自己的双引擎飞机降落在太浩湖南岸附近的机场,和谷歌最受尊敬的工程师杰夫迪恩(Jeff Dean)到哈拉赌场顶楼的餐厅和辛顿及他的学生们共进晚餐。
那是一间装饰着一千多个葡萄酒瓶的牛排馆,当天是辛顿的65岁生日。他站在吧台边,其他人坐在高脚凳上,他们一起讨论了Google公司的野心、拍卖以及他在多伦多实验室的最新研究进展。对于Google一方来说,那次晚餐的主要目的是向辛顿的两位学生施加影响,他们从未见过面。
图片来自wired.com
百度、微软和Deep Mind 也派了代表到太浩湖参加会议。余凯在招标开始之前和多伦多大学的研究人员们开过一个会,但投标者们却从没聚在一起过,拍卖通过电子邮件进行,大多数竞标者是来自世界各地的公司高管,从加利福尼亚到伦敦再到北京,辛顿向每个竞标者隐藏了其他人的身份。
他在哈拉塔楼的731号房间主持拍卖会,透过房间的窗户,可以俯瞰内华达州的松树和白雪皑皑的山峰。
每天,他都为下一轮招标设定时间,在指定的时间,他和两位学生聚在房间,看着竞拍价码顺着网络飞进他的笔记本电脑。笔记本电脑放在一个倒扣的垃圾桶上,垃圾放桶放在房间里的两张大号床边的桌子上,这样一来,辛顿就可以站着打字了。
竞拍价码是通过Gmail邮箱收到的,之所以用的是谷歌的邮箱产品,仅仅是因为一开始辛顿留下的就是个Gmail账户。但辛顿说,微软不喜欢这种安排,在拍卖前几天,微软公司抱怨说,谷歌是其最大的竞争对手,也是拍卖中最可能出现的竞争对手,说不定他们会窃听Gmail,得知每一轮别人的竞价,以此随心所欲地操纵竞拍。
辛顿也向学生们提出了同样的可能性,但他并没有表现出严重的担忧,而更多的是感慨谷歌的日益强大。最终,辛顿和微软都决定放下担忧:“我们相信Google不会读取我们的Gmail。”他说。
谷歌的产品全家福(不完全统计)
拍卖规则很简单:每次加价至少一百万美元,如果最新出价后超过一个小时仍没有人加价,则拍卖结束。
角力开始了。尽管 DeepMind 用公司股票替代现金出价,它也完全不是巨头们的对手,因此很快退出。剩下的就是百度、谷歌和微软。随着出价的不断攀升,先是1500万美元,然后是2000万美元,微软曾中途退出,但后来又回来了。
辛顿和他的学生们在房间里辩论应该加入哪家公司,竞拍者们的每次一次加码都严重影响着他们内心天秤的平衡。
一天傍晚,他们望向窗外,两架飞机从相反的方向飞过,飞行留下的长长烟迹形成一个巨大的X,恰好在一组山峰的上方。看到这奇观,他们心情激动,猜想这可能意味着什么,随后他们想到Google总部位于一个名为Mountain View(山景城)的地方。“这是否意味着我们应该加入Google?”辛顿问,“还是,意味着我们不应该?”
当价格进行到2200万美元,辛顿暂停了拍卖,与其中一位竞标者进行讨论,半小时后,微软再次退出,只剩百度和谷歌。时间继续流逝,两家公司把价格不断提高。百度的报价最初由余凯处理,但是当价格出到2400万美元,百度的一位高管在北京接手了拍卖工作。
时不时地,余凯会到731号房间看看,了解一下拍卖的进度。他的造访曾引发731号房间的一场闹剧,但余凯自己对此并不知情。
辛顿经常在去太浩湖这样的地方旅行时生病,那儿空气寒冷、稀薄而干燥。他担心自己在拍卖期间生病,他不希望任何技术行业的人看到那样的他。“我可不希望他们以为我又老又衰。”他说。
为了防止生病,他从靠墙的折叠沙发上取下床垫,放在两张床之间的地板上,把一个熨衣板和其他一些长而结实的东西架在两张床之间的,然后用水浸湿几条浴巾,盖在缝隙上,他每天晚上就睡在这样一个临时搭建的帐篷下,呼吸湿润的空气。
但辛顿不想让余凯看到他的“私人增湿房”,所以每当余凯过来聊天,辛顿赶紧招呼所有公司员工,也就是他的两个学生,迅速拆开床垫、熨衣板和湿毛巾,把它们藏起来。“副总统就是这么干的。”他告诉他们。
一次拜访后,余凯把背包落在房间。辛顿和他的学生盯着椅子上的背包,不知道要不要打开看看,说不定里头有什么东西可以让他们知道百度究竟愿意出多高的价,但是他们知道这么做不对,所以没这么干。
但不管怎样,他们很快就发现百度总愿意出更高的价格:2500万美元,3000万美元,3500万美元,只是每一次都等到一小时倒计时结束前的一两分钟才出价。眼看着拍卖就要结束,又往后延一阵子。
价格本就很高,当辛顿把每轮竞价倒计时从一小时缩短到30分钟,出价陡增到4000万美元,然后是4100万美元、4200万美元,4300万美元。“感觉就像我们在拍电影。”他说。一天夜里临近午夜,当价格达到4400万美元,辛顿再次暂停了竞价,实在太困了。
第二天,大约要在竞标开始前的30分钟,辛顿发了一封电子邮件,说开始时间将被推迟。又过了大约一个小时,他又发了一封。拍卖结束了。
当晚的某个时候,辛顿决定将自己的公司出售给谷歌,却没有再抬高价格。他在给百度的电子邮件里说,(请勿再发出任何拍卖相关信息,否则)接下来的所有信息都将转发给他的新雇主。但他没有透露这个新雇主是谁。
4
“一场新的竞赛正在进行,这场拍卖就像是发令枪。”
后来,他承认,这一直是他想要的。
甚至连余凯也猜到,辛顿最终会加入谷歌或者至少时另一家美国公司。毕竟,他背上的伤让他往返中国很不方便。
其实余凯对于百度在竞标的过程中一直占据着主动地位已经感到满意。他认为这次竞拍能让他的上司以他的视角来观察这个世界。在一次次出价、竞价过程中,通过将百度在美国的竞争对手推向极限,百度的智囊团会逐渐意识到,在未来的几年中,深度学习将变得多么重要。
辛顿停止拍卖,是因为他为自己的研究找到了合适的归属,这比获得更高的价格更重要。
当他告诉谷歌的竞价人要以4400万美元的价格停止拍卖时,对方还以为他在开玩笑拍卖还没停,谁会和仍在上涨的价格过意不去呢?但他终究没有开玩笑,两位学生也明白导师的做法。他们是学者,而不是企业家,更忠于自己的想法,而不是别的。
辛顿并没有意识到他们的想法是多么有价值。那时还没人知道,深度学习的兴起将拉动历史的铁轨,数字技术的呼啸列车从此转向。自此,工程师们不再用一行行代码、一条条规则来严格定义机器的行为方式,而是开始真正地构造机器,然后让机器从人脑永远无法处理的海量数据中自己学习经验和教训。
一种前所未有的功能强大、却又神秘而不可预测的新型计算方式就此产生。它的某些能力远超出人类,却又经常被人性所困。在谷歌和其他科技巨头开始采用这项技术时,鲜有人意识到AI在学习人类需要的技能时,也会顺道把研发人员的价值观和偏见学去。
太浩湖的那场拍卖结束后,NIPS会议也落下帷幕。余凯登上回北京的飞机,他遇到另一位中国出生的研究员邓力。邓力当时是微软的员工,在拍卖中扮演和余凯相同的角色。
余凯和邓力相识多年,毕竟圈子当初就那么大,常能在各种研讨会碰见,所以这次回亚洲的长途飞机,他们把座位选在一起。但因为拍卖是匿名的,所以双方都不确定是哪家公司参与了拍卖。
一路上,他俩站在机舱后面聊了几个小时,讨论深度学习的兴起,但他们都考虑到自己有义务为公司保密,不该透露自己参与拍卖的事,所以自始至终都绕着这个问题跳舞,有意无意地试探,试图在不泄露自己秘密的情况下摸清对方所知所想。
尽管没有说出来,但他们俩都知道,一场新的比赛已经开始了,这场拍卖就像是起跑发令枪。他俩的公司都必须正面应对Google这次的收购大动作。这是全球军备竞赛的开始,在未来几年,这场竞赛将以人们不可理喻的方式迅速升级。
起初,竞赛只吸引了一小部分科学家参加,他们主要分布在”辛顿拍卖行“的四家公司中,但很快,他们所做的事就被推到技术行业的风口浪尖。
在联合创始人德米斯哈萨比斯雄心勃勃的推动下,伦敦那家默默无闻的初创公司DeepMind制造的机器成了人们眼中真正的“人工智能”:不挑食(它们的食物是数据)、适应性强,像人类那样思考。
DeepMind 俨然要迅速成长为十年来全世界最著名和最具影响力的AI实验室,起初,辛顿可不承认,但从2014年起,他和Hassabis达成了共识,谷歌在一月份收购了DeepMind,于是他俩的实验室踩在同一条船上。
最终,Facebook和一家名为open AI 的初创公司也将参与这场竞赛,后者通过大量投资与微软捆绑在一起。这些参与者们的交手将极大地促进人工智能的发展,在语音助手、无人驾驶汽车、智能机器人、AI医疗保健等方面,甚至并且超出辛顿和他的学生们的预想,延伸至自动化战争及监视领域。
从731号房间退房后,辛顿登上了一趟返回多伦多的长途旅行火车,他仍没有坐下。多年后的2017年,当他被要求透露当年的竞购者时,他以自己的方式回答。“我签署过合同,永远不会透露当时与谁交谈过。合同都跟谁签的呢?跟微软签过一项协议,跟百度签过一项协议,跟谷歌签过一项协议。”他说。
他拒绝提及DeepMind,这意味着,当初那些竞拍者后来也一直不知道还有谁和他们一样,为计算机的未来而竞标现在他们知道了。
End
本文编译自凯迪梅斯(Cade Metz)的新书《Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World》(《天才制造者:那些为谷歌、脸书和这个世界带来人工智能的独行侠们》,该书于2021年3月16日由达顿(Dutton)出版社出版。原文版权属于凯德梅斯,他是《连线》杂志的前资深资深撰稿人,现就职于《纽约时报》。
最后再介绍一下我自己吧,我是谢幺,科技科普作者一枚,日常是把各路技术讲得通俗有趣。想跟我做朋友,可以加我的个人微信:xieyaopro。不想走丢的话,请关注【浅黑科技】!(别忘了加星标哦)
在这里读懂科技