余凯(下)与霍普菲尔德(左)、欣顿(右)两人的“同框”。 图片来源:美国《连线》杂志
■本报记者 赵广立
“了不起!”
得知2024年诺贝尔物理学奖颁发给机器学习领域的两位“大牛”约翰·霍普菲尔德和杰弗里·欣顿后,人工智能(AI)科学家、地平线科技创始人余凯第一时间在微信朋友圈感慨:“我学习神经网络差不多在30年前,是从‘大牛’之一约翰·霍普菲尔德根据物理学原理设计的一种网络开始的。”
而余凯和另一位“大牛”欣顿的故事,更是不同寻常。
中国最早“相中”欣顿的人
2013年3月,谷歌花费4400万美元收购了加拿大多伦多大学一家初创“三无公司”—— 无产品、无计划、无资金。这家公司只有3位员工——已经60多岁的多伦多大学计算机系教授欣顿和他的两名学生。
当时很多人觉得谷歌“人傻钱多”,花了数千万美元就买回来几篇“深度学习”的论文。
但没人想到,凭借这几篇论文,欣顿获得了2018年度图灵奖,并被人们誉为“AI教父”“深度学习之父”。而谷歌也因此奠定了其AI领域“头雁”的地位。更没人想到,欣顿还因此获得了2024年诺贝尔物理学奖。
在欣顿加入谷歌前,曾差点加盟百度公司,余凯就是牵线搭桥的“伯乐”和“操盘手”。
余凯,这位曾经的百度深度学习研究院常务副院长,现在的地平线科技创始人,可能是中国最早“相中”欣顿及其科研成果的人。
故事要追溯到12年前的初秋。
2012年秋天,欣顿和学生们发表了一篇长约9页的论文——《基于深度神经网络的图像分类》,提出了一种全新的深层结构分析方法。他们用这种方法在当年ImageNet图像识别大赛中一鸣惊人,将图像识别错误率从25%降低到15%,获得了第一名。
这在今天来看,应该算得上是AI技术发展的一个历史性时刻,但当时没有多少人意识到它的意义。而就在论文发出后没几天,欣顿就收到了一封中国AI研究者的电子邮件。发出邮件的人正是余凯。
“竞拍”欣顿
“我是2010年ImageNet图像识别大赛冠军,所以当看到2012年的比赛结果超出我两年前的结果非常多时,非常震惊。”余凯说,“我觉得没有人比我对这个事情的意义理解得更深刻,所以我立刻给欣顿写了邮件。”
余凯比欣顿小30岁,两人最早相识于加拿大举行的一场学术研讨会。2012年4月,余凯离开美国NEC研究院加入百度,担任新成立的百度多媒体部的部长。
这一年,百度开始大规模采购和建立GPU运算集群,开发了世界上第一个支持GPU&CPU的并行深度学习平台,迫切需要人才和技术支撑。于是,余凯向百度创始人兼CEO李彦宏推荐了当时在业界默默无闻的欣顿,希望尽早把这一人才挖到手。
技术出身的李彦宏,最终决定派战略投资副总裁汤和松与欣顿取得联系,并直接提出1200万美元、为期3年的邀约。欣顿当时心动了,表示“能签”。但在签约前,欣顿的两名学生“拦下”了恩师,并表示如果他们能先成立一家公司的话,百度可能就会将报价提高很多。于是,欣顿马上着手创建了员工只有他和两名学生的初创公司——DNNresearch。
此外,欣顿还专门咨询了律师怎么把“三无公司”的价值最大化。律师建议要么花钱请谈判代表,要么进行一次拍卖。欣顿选择了后者。
余凯所在的百度以及谷歌、微软和DeepMind参与了竞拍。价格迅速攀升,最后只剩下百度和谷歌两家公司。当竞价到了4400万美元时,欣顿中止了竞拍,选择了谷歌。
当被问到“没有如愿收购欣顿创立的初创公司,是否留有遗憾”时,余凯表示自己“一点都不遗憾”。
“当时参与的那场秘密收购,让世界顶级公司看到了彼此都愿意为收购3个人而花几千万美元!这让大家都更加重视深度学习了。”余凯说。
竞拍举行几年后,余凯离开百度,创立了自己的科技公司“地平线”,而欣顿的其中一名学生——伊尔亚·苏茨克维也在同一时间离开谷歌,与萨姆·阿尔特曼等人联合成立了OpenAI。当年参加秘密竞拍的人,后来创立和壮大了现在的DeepMind、OpenAI以及地平线,这些都是AI发展史上值得一书的公司。
“后来,国外有媒体报道说那是人工智能竞赛的‘发令枪’。”余凯告诉《中国科学报》,他之所以一点都不觉得遗憾,还在于那之后,百度公司意识到了深度学习的重要性。一个月后,他就在百度组建成立了深度学习研究院,促进了中国AI的发展。
两位“大牛”获奖“不意外”
余凯对于霍普菲尔德和欣顿两位机器学习领域的“大牛”共同分享2024年诺贝尔物理学奖更是“一点都不意外”。
“因为早期AI专家大部分都有物理学背景,我也有物理学背景。”余凯告诉《中国科学报》,所谓物理学思维,实际上是用数学的方法建模现实世界,这与AI的核心意义完全一致。
“物理学思维并不是纯粹的或抽象的数学、AI,它更关乎在现实世界构建系统,使它能够利用数学的一些原则学习知识,变得越来越聪明。”余凯说,比如霍普菲尔德在美国加州理工学院物理系任教授时,从统计物理学角度构建了一个分布式物理学系统,即“Hopefield Network”。通过这种分布式的学习训练,可以构建一个智能系统。
“他的这个想法非常有远见,可以说开创了用人工神经网络做AI、做机器学习的先河。”余凯认为,“物理学思维对于AI是非常重要的,构建物理学系统使它具有智能,这对于物理学本身也是一个很大的贡献。”
但让余凯更为感慨的是,霍普菲尔德和欣顿在一个方向坚持几十年。“他们的这种理想主义以及对这个世界的好奇心,是非常值得我们学习的。”
《中国科学报》 (2024-10-10 第3版 综合)