这么多做 AI 芯片的,NovuMind 吴韧做的有何不同?

10月12日,德国慕尼黑,英伟达 GTC 大会。

惠普 HPE 向来自全球的开发者和厂商,展示了世界上首个面向企业级用户的人工智能软硬件解决方案,而在 HPE 的高性能计算硬件上搭载的,是吴韧所创立的 NovuMind 历时两年研发出来的深度学习训练平台。

这么多做 AI 芯片的,NovuMind 吴韧做的有何不同?

吴韧先后担任AMD异构系统首席软件架构师,惠普实验室 CUDA 研究中心首席研究员,百度公司杰出的科学家,两年前,他决定创业,致力于打造“ASIC芯片+训练模型”的全栈式AI解决方案。

两年过去,吴韧出现在鲜有中国面孔的 GTC 欧洲大会上,带着业界最快的深度学习训练平台高调亮相,雷锋网独家专访吴韧博士,看看这位曾经名动一时的计算机博弈专家现在在做什么?

一家公司:NovuMind

2015年8月,卸下“百度杰出科学家”光环的吴韧回到硅谷,并未用多少时间,便说服了芯片大拿 Chien-Ping Lu、前惠普实验室首席工程师 Kar Han Tan 加入,很快组建起了 40 多人规模的硅谷团队。在国内,则由曾为英伟达立下汗马功劳的谢强、差点拿到百度总裁奖的胡殿民“搭了班子”,预计在明年初,团队规模将和硅谷持平。

2016年12月,NovuMind 完成了 A 轮 1500 多万美元的融资,背后的资本方有洪泰基金、宽带资本、真格基金、英诺天使和臻迪科技等。

在吴韧看来,NovuMind 是一家全球化的公司,布局中国、美国、欧洲三块市场,为人工智能训练超级计算机,为应用端提供 AI 专用芯片。在这条赛道上,一方面竞争异常激烈,另一方面耗时耗力。不过,吴韧认为 NovuMind 做的事情,和其他厂商完全不同。

对于大部分处在应用层的公司而言,急需 AI 技术,但又不可能像巨头公司一样雇佣几个百万年薪的技术大咖,也不可能买得起千万起的训练设备。NovuMind 想要创造的价值就是降低门槛,让任何传统企业都能够很容易把 AI 技术用起来。吴韧表示,对于 AI 来说,更为重要的是不是一两个公司冲在最前面,而是大多数公司都能跟上。想要达到这个目的,关键在于能够降低把训练能力、模型低成本的部署,并且不仅部署在云端,同时还在终端。

在训练方面,很像当年的 Hadoop 和 Cloudera ,吴韧说:

大家都可以去下载一个 Hadoop,但是大部分公司是没有这个能力把 Hadoop 跑起来的,于是都去找 Cloudera 这样的公司去把产品化的 Hadoop 买回来,直接使用,这是使用很复杂的开源系统解决具体商业问题很好的例子。我们也一样,人工智能的训练一定需要非常成熟的软硬件体系,让一个普通公司,买了我们的系统后,按个键,就可以开始训练模型了。

在端应用方面,吴韧认为做平台不是正确的思路,NovuMind 追求的是最极致的优化、最高的性能功耗比,而平台意味着性能的降低——通用性就是性能的降低。在吴韧看来,AI 的关键能力,“实际上就那么几个”——比如视觉、听觉、感知其他信号的能力。把其中一个能力,放入一个解决方案中,其实已经可以了。

吴韧进一步向雷锋网解释,芯片对视觉有特别的优化,实际上已经能够覆盖非常多的应用场景,在“通用性”上,其实并没有降低太多,比如说人脸识别、车辆识别等,看起来不一样,但对芯片只是换一个模型而已。

而和其他芯片厂商做法不同的是,NovuMind 完全舍弃了“矩阵”。常规来说,在数学和工程上,矩阵能够达到凭借最小的操作覆盖最多应用场景的效果,把矩阵做好以后,大部分工程问题都可以解决。但矩阵本身并不是 AI 计算的关键点,关键在于卷积,也就是三维张量的计算 。吴韧认为,既然如此,那 NovuMind 的 AI 芯片,就不去考虑矩阵,只专注三维张量就好。要解决视觉问题,这个芯片就把这件事做彻底,完全不考虑任何通用性,极端定制化带来极端的性能优势。

产品方面,雷锋网(公众号:雷锋网)此前也曾报道,NovuMind 的第一个AI芯片(原型)预计会在今年圣诞节前推出。吴韧表示,到明年2月份,他希望应用程序都准备就绪,并能够在该芯片上实现耗能不超过5瓦进行15万亿次浮点运算。而 NovuMind 的第二个芯片,耗能将不超过1瓦,计划在2018年中期面世。

那 NovuMind 产品目前的效果又如何?

一个案例:华西医院

实际上,虽然产品还在研发过程中,但核心技术已经能够落地了。早在 2016 年 3 月,吴韧就与希式医疗公司有了初步的合作意向。而在过去不久的 7 月,Novuseeds——NovuMind 合资公司——和华西医院开始了全面合作,将 AI 技术应用在消化道的内窥镜上。

在吴韧看来,目前现有的医疗 AI ,真正有影响力的只有两个,都是谷歌参与的。其一是通过视网膜判断糖尿病,其二是通过皮肤照片判断皮肤癌。靠谱的原因是,拥有差不多 10 万份数据,准确率达到 90%。

NovuMind 和华西医院的合作,数据来自华西医科大学,用了 20万份数据,准确率达到 95%。NovuMind 要做的,就是将性能优异的 AI 专用芯片,植入到内窥镜中。

此外,安防也是 NovuMind 长期布局的一个领域。

将人脸识别、车辆识别用于安防,其实是很多公司都在做的一件事,媒体大肆报道后,大众也不再陌生。吴韧认为,难点在于复杂的程度。他表示,稍微调查一下会发现,北京市目前有100万路,很多公司在达到“100路”这个量级的时候就做不下去了, 而 NovuMind 目前在没用自己研发的芯片的情况下,可以做到 10 万路。

现在的做法实际上是通过摄像头,在云端或数据中心进行分析,这个前提是摄像的视频,10万路视频要传到数据中心的某一个地方,再来做分析。但如果有了芯片以后,这个摄像头本身就可以做分析,那是就可以解决100万路、1000万路的问题了。

一个合作:惠普HPE

在近日举办的英伟达 GTC 欧洲大会上,吴韧第一次对外展示了 NovuMind 耗时两年开发的深度学习训练平台,并且宣布与惠普 HPE 达成了战略合作。

惠普 HPE 作为重要的高性能计算设备提供商,覆盖了大多数世界500强企业用户,在世界 Top500 超级计算机中占有接近 1/3 的席位。在吴韧看来, NovuMind 之所以受到惠普的青睐,是因为拥有全栈的人工智能技术。

惠普 HPE 资深高性能计算 (HPC) 技术顾问、深度学习专家 Bruno Monnet 在 GTC 欧洲大会上做了主题为“HPE 和 NovuMind 推动更大规模的深度学习 ”(Improving Deep Learning Scalability on HPE Servers With NovuMind: GPU RDMA Made Easy) 的演讲,Bruno 大力赞赏了 NovuMind 所做的努力,并且认为 NovuMind 软件和 HPE 高性能计算硬件的配合是“相得益彰”。

这么多做 AI 芯片的,NovuMind 吴韧做的有何不同?

同时,Bruno 还说,“有了 NovuMind 的深度学习训练平台,HPE 可以真正帮助全世界各大中小企业实现人工智能赋能”。

目前,NovuMind 已启动筹备下一轮融资,本轮融资将会被用于产品研发和扩大团队。



本文作者:叨叨
本文转自雷锋网禁止二次转载,原文链接
上一篇:PHP代码审计01之in_array()函数缺陷


下一篇:MVC开发模式与三层架构的区别与联系