李开复:从1983到2017,我的幸运与遗憾

  • 时间:
  • 浏览:1
  • 来源:5分6合APP下载_五分6合APP官网_5分6合APP下载官网

  文/李开复

  1

  今天跟亲们讲个故事。

  1983-1988年,我正在卡内基·梅隆大学读计算机博士。

  我正忙着暑期教书,秋天投身奥赛罗人机博弈(黑白棋游戏,那是机器第一次真正意义上打败人类冠军的比赛)。

  我的导师瑞迪教授(Raj Reddy,图灵奖得主、卡内基梅隆大学计算机系终身教授、美国工程院院士)从美国国防部得到了60 万美元的经费,用来做不指定语者、大词库、连续性的语音识别。

  也因此说,他希望机器能听懂任何人的声音,因此需用懂上千个词汇,懂亲们自然连续说出的每一句话。

  这另有2个问题有的是当时无解的问题。

  而瑞迪教授大胆地背熟项目,希望同时解决这另有2个问题。他在全美招聘了60 多位教授、研究员、语音学家、学生、应用进程员,以启动有些 有史以来最大的语音项目。

  我也在这60 人名单之内。

  当时的科研背景是,业界以前有之类今天深层学习的算法,但有2个劲没有实现数据标准化,数据量也匮乏够大。

  美国几大语音识别实验室(如MIT、 CMU、 SRI、 IBM、贝尔实验室)有的是各用各的数据库,测试数据不同,训练数据不同,使用的语言模型不同,测试的词汇量因此同。所以都各称业界第一,亲们莫衷一是。

  而每个大公司有的是我本人的商业需求,比如说在语音识别方面,当年做打字机的IBM想做语音打字机,垄断美国电信的AT&T要求贝尔实验室识别电话号码,所以大公司并没有动力来帮助小公司或学校。而小公司和学校,往往不可不还可不可以资源做些较小的数据集,结果通常因此如大公司的好。

  不仅没有,数据不标准对AI研究而言是致命的,最后意味着着所以问题,包括:

  1、以前测试语料库不同,最后识别结果,亲们无法复制,也无法验证。彼此不认可,因此以前数据没有打通,算法就更不以前打通了。

  2、以前每家做的领域不同,最后的结果有的是可比。有些领域词汇量小,比较容易,因此做出结果也以前不可不还可不可以通用。有些领域词汇量大,因此约束所以,所以能说的内容没有来很多,意味着着比较容易识别,然需用通用。

  3、以前每家训练集不一样大,而训练集越大,一般结果越好。所以,有以前结果做的好,被认为并有的是靠算法,因此靠数据量大。

  4、对于学术单位来说,最大的问题来自于没有足够的资源(也没有兴趣)整理、清洗、标注多量的语料。对于小公司来说,语料和计算力有的是问题。

  最后,瑞迪教授计划采用“专家系统”来完成项目,以前有些 法律法子需用的数据有限。

  专家系统是早期人工智能的另有2个重要分支,你可不还可不可以把它看作是一类具有专门知识和经验的计算机智能应用进程系统,一般采用人工智能中的知识表示和知识推理技术来模拟通常由领域专家不想 解决的复杂性问题。

  但我不认同。

  2

  以前参加过的奥赛罗的人机博弈,让你可不还可不可以对统计概念有了充分的理解,我对瑞迪教授的研究法律法子产生动摇。

  我相信建立大型的数据库,因此对大的语音数据库进行分类,有以前解决专家系统不可不还可不可以解决的问题。

  另外,在1985年,美国标准局 (NationalInstitute of Standards and Technology)也意识到数据不标准会影响科研进步。所以在语音识别问题上,标准局设定了标准的语音和语言的训练集、测试集。要求每个学校的每个团队都用同样的训练集来训练模型,需用我本人调好系统参数,比赛最后一天亲们拿到数据,有一天时间跑出结果,亲们评比。

  我从有些 标准数据集和测试看多以前。

  再三思考后,我决定鼓足勇气,向瑞迪教授直接表达我的想法。我对瑞迪说:“我希望转投统计学,用统计学来解决有些 ‘不特定语者、大词汇、连续性语音识别’。”

  我以为瑞迪会有些失望,没想到他有些都没有生气,他轻轻地问:“那统计法律法子如保解决这三问题呢?”

  瑞迪教授耐心地听完我激情的回答后,用他那永远温和的声音问你:“开复,你对专家系统和统计的观点,我是不同意的,因此你就要支持你用统计的法律法子去做,以前我相信科学没有绝对的对错,亲们有的是平等的。因此,我更相信另有2个有激情的人是以前找到更好的解决方案的。”

  那一刻,我的感动无以伦比。以前对另有2个教授来说,学生要用我本人的法律法子作出另有2个与他唱反调的研究。教授不但没有动怒,还给予充分的支持,这在所以地方是不可想象的。

  统计学需用大数据库,亲们如保不想 建立起大的数据库呢?

  瑞迪教授看多我愁眉不展的样子,再一次给了我支持。跟跟我说,“开复,实在说我还是对你的研究法律法子有所保留,因此,在科学的领域里,实在也无所谓老师和学生的区别,亲们有的是面临这另有2个问题的攻克者,所以,以前你真的需用数据库,没有,让你可不还可不可以去说服政府帮你建立另有2个大的数据库吧!”

  瑞迪教授你可不还可不可以说服了美国政府部门和美国标准局整理并提供了多量数据。我用美国标准局提供的标准大数据,跟多家拿国家钱的机构数据,你可不还可不可以有些不拿国家钱的单位(如:IBM,AT&T)也参与进来,我可使用的数据越滚越大。

  除了大数据,统计学的法律法子还需用非常快的机器,瑞迪教授又让你可不还可不可以购买了最新的Sun 4机器。此后每次有新的机器,他时会说:“先问问开复要暂且。” 做论文的两年多,我共要花了他几十万美元的经费。

  瑞迪教授的宽容再次让你可不还可不可以感觉到并有的是伟大的力量,这是并有的是自由和信任的力量。

  3

  在导师的支持下,我现在结速了疯狂的科研工作。

  当时,我带着另一位学生同时用统计的法律法子做语音识别。同时,有些60 多人用专家系统做同样的问题。从法律法子上来说,亲们在竞争,因此在瑞迪教授的领导下,亲们分享一切,亲们用同样的样本训练和测试。

  在1986年底,我的统计系统和亲们的专家系统达到了共要一样的水平,40%的辨认率。这实在还是全部不可不还可不可以用的系统,但毕竟是学术界第一次尝试没有难的问题,亲们还是比较欣喜和乐观的。

  1987年5月,亲们大幅度地提升了训练的数据库,采用了新的建模法律法子,不但不想 用统计学的法律法子学习每另有2个音,因此需用用统计学的法律法子学习每另有2个音之间的转折。针对有些音的样本匮乏,我又想出了并有的是法律法子(generalized triphones)来合并有些的音。这三项工作岂有的是把机器的语音识别率从原本的40%提高到了60 %!你可不还可不可以又提高到96%。

  统计学的法律法子用于语音识别初步被验证是正确的方向。

  亲们都相信了我用的机器学习法律法子和隐马可夫模型算法,因此抛下了不可行的专家系统(专家系统只达到60 %的识别率)。在我的博士论文基础上,你可不还可不可以的Nuance,微软、苹果4 55手机等公司做出了业界最领先的产品。

  1988年4月,我受邀到纽约参加一年一度的世界语音学术会议,发表学术论文。

  有些 成果撼动了整个学术领域。这是当时计算机领域里最顶尖的科学成果。

  语音识别率大幅度提高,让全世界语音研究领域闪烁出一道希望的光芒,从此,所有以专家系统研究语音识别的人全部转向了统计法律法子。

  会后,《纽约时报》派记者JohnMarkoff来到匹兹堡对我作了采访,文章发表于1988年7月6日,占了科技版首页的整个半版。在这篇文章里,马可奥夫大力报道了我的论文的突破。当时,我只实在在和另有2个和蔼可亲的记者聊天,事后,我才知道这是一名才华横溢的著名记者,三次提名普利策奖,并在斯坦福兼教。

这是1988年,《纽约时报》对我博士论文的报道

  你可不还可不可以,《商业周刊》把我的发名家 选为1988年最重要的发名家 家 。年仅26岁初出茅庐的我,第一次亮相就获得原本的成功,让你可不还可不可以感到很幸运,也让你可不还可不可以有了继续向科技高峰攀爬的动力。

  而我也因此拿到了卡内基·梅隆大学的计算机博士学位,这离我1983年入学不可不还可不可以4年半的时间。在卡内基·梅隆大学的计算机学院,同学们平均6年以上不想 拿到博士学位,我用没有短的时间拿到博士学位,是一项新的纪录。

  我也因此破格留校,成为一名26岁的助理教授。

  4

  遗憾的是,实在我找到了方向和基本法律法子,但以当时的数据量级和计算水平,语音AI研究没有有商业化以前。我最终还是抛下科研界,进入商界,用产品改变世界。

  60 年过了,AI发展的土壤终于肥沃起来。

  伴随互联网和移动互联网而来的大数据、高效的计算机运算能力等条件都齐备了。科研人员需用的数据集不再没有难以触碰,因此需用许多人牵头让更多的公司参与进来。这在60 多年前,我还是另有2个AI科研人员的时代,能接触到真实世界里没有海量的数据,是个遥不可及的梦想。

  我当年受惠于瑞迪教授的帮助和指导,今天也非常希望能给更多和我一样的年轻人,创造研究以前和条件。

  所以,昨天创新工场、搜狗、今日头条联合发起“AI Challenger 全球AI挑战赛”。三家公司分别投入多量资金、也背熟千万量级高质量开放数据集与宝贵GPU资源。

  同时,我也倡导商界和科研界能采用多量的数据和标准的测试法律法子,也欢迎更多的数据公司不想 参与到有些 平台里。

  希望亲们推出的Challenger.ai,需用帮助到中国AI人才成长。

  在我看来,这次AIChallenger绝对不因此另有2个活动,也绝对不因此另有2个奖金60 万、年底就现在结速的竞赛,这是推进中国AI人才成长的重大催化剂。

  希望3年或5年后,亲们再来回顾有些 段青春年华 ,亲们发现中美AI人才之间没有落差了,还能想到AI Challenger在原本重大过程中扮演了另有2个小小角,你可不还可不可以感到有些 切有的是价值。

  欢迎亲们登录大赛官网Challenger.ai,获取信息并报名。关于这场大赛的具体信息可点击文末的链接了解(要在电脑页面上不想 报名哦)。

  亲们以前无法想象,我有多么羡慕亲们,生活在数据爆炸的时代,许多人提供数据和奖金池,让有才华的人一展拳脚。