SME的博客分享 http://blog.sciencenet.cn/u/beckzl 他们的故事才是对科技最好的诠释,关注科技故事。微信公众号:SME

博文

[转载]老年实习生和越南农二代,教谷歌翻译说人话!

已有 1131 次阅读 2017-1-11 09:16 |系统分类:人物纪事|文章来源:转载

谷歌人工智能(AI)最近又出尽风头,阿尔法狗化身“Master”,目前已在与中日韩顶尖围棋大师的对弈中,连胜 60 局。你可能知道,阿尔法狗是谷歌旗下公司——Deep Mind 的得意之作。但是,财大气粗的谷歌爸爸,其实养了两个 AI 团队。


另一个,就是大名鼎鼎的谷歌大脑(Google Brain)。它的门面产品是谷歌翻译,前段时间也搞出了很多大新闻,让众多翻译忍不住怀疑起了自己的人生。


谷歌大脑是一支有些奇葩的团队。里面有简历完美的 BUG 级别大牛(如现百度 1300 人 AI 团队总裁,Coursera 创始人之一吴恩达)




然而,也有两位不按常理出牌的谷歌实习生,以及一只无所不在的神秘的猫。


2012年,Geoffery Hinton 成为了谷歌培训室里最年长的实习生——当年正好 70 岁。同期的年轻人不时好奇地看他一眼,他们不了解的是,这个“老头”如今已是深度学习的公认教父,过去却当了足足 30 多年的计算机界“唐吉坷德”。






Hinton 出生于一个老式英国学术世家,从曾曾祖父到父亲叔叔都是鼎鼎有名的大教授,可谓是全明星家庭。不幸的是,他本人进入剑桥大学之后,却迷上了 AI 神经网络研究。


之所以说这很不幸,是因为学术界跟你想的不太一样,人家也是讲究潮流的……50 年代末,美国海军曾想要拥有自己的 AI 神经网络,它召集了一批顶尖学者,投入大量资金。然而,那个年代无论理论还是硬件基础,显然都不可能达到这么高的水平。这个项目于是在大规模炒作和曝光之后,轰轰烈烈地失败了……





因此,在 Hinton 上大学的 60 年代以及往后数十年间,神经网络一直被学术界认为是哗众取宠的典型。不过,任何故事的主人公都能开挂预见未来,正如我们的 Hinton 老师。


当年,人工智能研究主要面向“单层神经网络”,比如,当从图片中识别猫时,计算机的逻辑是:猫应该有一对圆眼睛?还有两只尖耳朵?Hinton 本科是心理学,他的想法则更为拟人,提出了“多层神经网络学说”,这时计算机找猫的方式就变成了:这些图片都是猫,它们有什么套路?




没错,又是这只猫


这套太过抽象的理论在哲学家中很有市场,但理科生们不太买账。Hinton不屈不挠,狡猾而坚定地反复推广自己的新·找猫攻略。70 年代末-80 年代初,他发表了一篇论文,尝试解决“多层说”中,计算机如何提升试错效率的问题。这篇论文先是掀起了一个小高潮,随后又回复沉寂,Hinton 将此归结为:“我炒作得稍微有点过头了……”


无论如何,随着时间流逝,越来越多计算机科学家加入了用新方法找猫的行列,学界也终于认可 Hinton 作为深度学习开山鼻祖的地位。《纽约时报》跑去采访他,他还惯例秀了句不讨人喜欢的英式幽默:“人工智能可能比美国人先理解讽刺。”





不过,2012 年,当他以兼职身份成为谷歌实习生,走进谷歌的豪华版食堂时,并不清楚跑来搭讪的那个学生,会成为真正“找到猫”的人。


Quoc Le 是一位越南农二代。显然,在那连电都没有通的小渔村里,没人能想到他以后会从事这么潮的行业——人工智能诶,那不是科幻电影里才有的吗?


毋庸置疑的是,Quoc Le是一位天才型学霸。他很早就被送入科学院学习,90年代在学校时,就开始设计聊天机器人。学霸想看看这事有多难,而结论则是……“实在太难了。”虽然事情没有成功,但却是他研究 AI 语言的第一步。





2006年,他辗转来到德国大学城的一座研究所任职,就是在那里的读书会上,他接触到了 Hinton 的论文。Le 同学无比兴奋,他站起来发言:“这就是未来!” 鉴于当时 Hinton 的名声还处在“唐吉坷德”的阶段,这引起了激烈反响。Le 的导师后来发来邮件,质问他:“你当时为什么要那么说?”


他作出了自己的选择。很快,他进入斯坦福,就读于吴恩达门下,开始追随 Hinton 的理念。到了2010年底,Quoc Le 有了很强的预感:“马上将有变革要发生了。”


差不多是在同一时间,他进入了谷歌大脑,成为了一名实习生。谷歌作为巨无霸企业,拥有连顶尖高校都动用不了的资源,也就是说,直到这时,Quoc Le 等人才有机会,将那张巨型神经网络在现实中进行尝试。





Quoc Le 的研究成果是,那篇具有划时代意义的“给 AI 一张猫图片,如何用一段语言描述它?”的论文。如果说吴恩达和李飞飞让计算机长出了眼睛,那么他就为 AI 安上了嘴巴和舌头,使它开始牙牙学语。


听上去好像很简单?可是每张图片中都有无限庞杂的信息,如何选取真正重要的内容才是难点。Quoc Le 的方法依然基于 Hinton 的理论:给计算机一张图片,让它自己试着筛选信息,再根据结果生成新图片——两张图大体一致吗?如果不一致,那就修正再尝试。


这一步完成之后,他和同事又花了2年时间,教会计算机将词语组织成一句话。





这就是谷歌大脑团队中那两位不同寻常的实习生。Geoffery Hinton 随身携带着英国人奇特的幽默感,将几十年间的非议都卷进烟纸里,燃尽成为吞吐的雾气。Quoc Le 一路曲折前进,走过了越南人、德国人、美国人的漫长套路,才来到人类世界的前沿。


这有什么难的呢?只要有环境能做自己的研究,Geek 们很乐意把他人的评论都视作下酒菜。





话说回来,谷歌大脑能把吴恩达这样的大牛,和Hinton、Quoc Le等怪杰一起招入麾下,还能为他们提供专心研究的环境,主要是因为大脑的大脑——Jeff Dean 也完全吊炸天。


露露下回再和你们聊他的事情。啊,想到 Dean 老师的故事,还有点小激动呢~




http://blog.sciencenet.cn/blog-2966991-1026825.html

上一篇:这种堪比凌迟的酷刑竟然风靡了全世界的健身房
下一篇:蟑螂也能致癌?当心,诺贝尔奖也会传谣言!
收藏 分享 举报

1 李土荣

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备14006957 )

GMT+8, 2017-9-21 11:20

Powered by ScienceNet.cn

Copyright © 2007-2017 中国科学报社

返回顶部