离开百度的吴韧,这两年做了什么?

尊龙人生就是博

2018-10-25

曾任百度杰出科学家的吴韧,在硅谷的SantaClara开了一家AI芯片公司——NovuMind(异构智能)。

在当今竞争激烈的边缘设备深度学习加速器市场上,NovuMind正在向前迈进。 在2016年12月A轮融资获得洪泰基金、宽带资本、真格基金等投资的1500万美元后,NovuMind即将开始第二轮筹款,这也是吴韧最近出现在北京的原因。 吴韧近期在EETimes的独家访谈中,讨论了NovuMind的发展动向他所希望公司能够达到的成就。 我们在此基础上进行了整理,探一探,离开百度的吴韧,做了些什么。 光辉往昔,黯然离去吴韧1984年毕业于成都气象学院电子系,在国内从事了一段时间的计算机研究工作后,上世纪90年代,吴韧重返校园,并最终获得了伦敦大学皇后玛丽学院的博士学位。

他是中国大陆最早进行计算机中国象棋研究的人工智能专家,他也是GPU计算的先驱,在世界上率先用GPU进行大数据解析并取得卓越成绩。

他曾是惠普实验室CUDA研究中心的项目负责人(PrincipleInvestigator)并随后在AMD就职。

2013年9月,当时还是AMD异构系统首席软件架构师的吴韧,离职加入百度深度学习研究院,以“杰出科学家”的身份投入深度学习的研究,负责百度人工智能计算架构和图像识别。 不过,吴韧也曾面临一些争议。 2015年6月,吴韧领导的团队被ImageNet取消了大规模视觉识别挑战赛(ILSVRC)的资格。

官方原因是,该团队向测试服务器提交了超过40次测试,超出规定的2次。 随后,吴韧否认团队在比赛中进行作弊。 百度最终将团队负责人吴韧开除,团队成员也被分派到百度其他部门。

对此,吴韧的回应是“被人设了局,百度是最大输家”。 东山再起,依旧精彩从2015年7月起至今,NovuMind成立已经有两年,主要为智能为汽车、安防、医疗、金融等领域提供ASIC芯片(ApplicationSpecificIntegratedCircuit),并提供训练模型的全栈式AI解决方案。 目前接洽的合作伙伴有来自中国、美国和欧洲等地的企业。

吴韧表示,NovuMind与NvidiaGPU或CadenceDSP的通用深度学习芯片不同,它专注于开发一种“非常专用但非常高效地进行推理”的深度学习加速器芯片。

NovuMind设计了一种仅使用3×3卷积过滤器的AI芯片。 在人工智能算法迅猛发展的时代,这种做法似乎有点反常。 这或许与吴韧更关注系统有关,在他看来,想要实现真正无处不在的人工智能,就需要在可用的终端实现人工智能系统。

NovuMind关注的,是“不变的神经网络的核心”。 他解释道,5x5卷积可以通过堆叠较少计算的两个3x3过滤器来完成,7x7可以通过堆叠三个来完成。

“因此,只要用3x3的过滤器就可以达到效果了。 ”吴韧表示,边缘设备的深度学习加速器中,对比单点计算的CPU,可以看做一维计算的DSP(DigitalSignalProcessor)和二维即使按的GPU(GraphicsProcessingUnit)以及TPU(TensorProcessorUnit)等架构的最大的问题,就是处理器的利用率很低。

NovuMind则通过使用独特的张量处理架构(tensorprocessingarchitecture)直接对三维Tensor进行处理而根本解决了这个效率问题。 需要指出的是,谷歌的TPU并不是直接处理Tensor。

NovuMind的第一个AI芯片(原型)预计会在今年圣诞节前推出。 吴韧表示,到明年2月份,他希望应用程序都准备就绪,并能够在该芯片上实现耗能不超过5瓦进行15万亿次浮点运算。

NovuMind的第二个芯片,耗能将不超过1瓦,计划在2018年中期面世。

吴韧的AI芯片的重点在于,不仅让一个小型的互联网“边缘”设备具有“看”的能力,而且还具备“思考”(以及识别)的能力,另外,这些都不需要通过数据中心的支持,不占用任何带宽。

吴韧将之称为智能物联网(I2oT,IntelligentInternetofThings)。

NovuMind的新芯片将支持Tensorflow(开源软件库),Cafe和Torch模型。

他希望,他的新芯片的能让强大高效的AI无处不在。

据吴韧去年对媒体的透露,NovuMind的独家秘笈是一台完全自行研制的,用来训练深度神经网络的超级计算机,在用于训练深度审计网络时,与英伟达的超级计算机DGX-1相比,速度快32倍。 这台计算机给了NovuMind训练出比其他对手更强的模型的能力,不管训练数据是图像、语言还是其他类型的数据。

扩大团队,拥抱未来除了为NovuMind获得更多的资金支持,有报道称,吴韧也将大规模扩张国内团队。

现在Novumind共有员工50人,其中35名工程师在美国工作,其余15人在北京。

虽然该公司的总部在硅谷,但是国内的广阔市场也是他们的发展重点,这也意味这他们会面临着较大人才缺口。

雷锋网(公众号:雷锋网)发现,在NovuMind的官网上,也有1/3的板块是关于人才招聘的。 在AI人才上,吴韧更欣赏全栈式的人才,在专注于芯片、算法、架构中的单独一项之外,还要对整个系统有深入的了解。

这与NovuMind的公司定位不谋而合,他认为,NovuMind是一个集终端、算法、神经网络、超级计算机、数据处理分析和云端的全栈解决方案。 NovuMind提供了一种全新的人工智能应用方式,而NovuMind中的“Novu”,在拉丁语中的含义就是“新”。 雷锋网认为,这是吴韧的新开始,也是人工智能值得关注的新方法。