可靠低耗易获得的AI芯片

以下为精彩视频内容整理:

 深度学习

可靠低耗易获得的AI芯片

深度学习是机器学习中一种基于对数据进行表征学习的方法。简单的说它是端到端的技术,互联网时代有PC平台来承载深度学习的能力,移动互联网时代有手机承载它的能力,在AI时代,它的形态可以多种多样,比如智能音箱,无人机等。在AI背后有云端强大的大脑,前端有各种各样的设备。

可靠低耗易获得的AI芯片

人工智能是目的,是结果;深度学习是方法,是工具。深度学习算法的2个关键因素是算法数据和算力(计算能力)。而计算能力中的训练需要利用大量数据中心服务器的能力训练模型,使其得到收敛,进而获得精准的模型。模型部署在服务器上,给用户提供服务时需要一个高效、低耗、易获得的处理平台,这个平台载体可能是芯片、FPGA、GPU、CPU。深度学习可以承载图像识别、人脸识别、图片分类、娱乐类的图片渲染和美化、辅助驾驶或者无人驾驶等应用。众所周知无人驾驶硬件成本很高,一部分是传感器,另一部分是GPU cluster,只有当它低成本时才是生活中易获取的辅助驾驶能力。在安防领域,中国可能有上亿颗摄像头来维护我们的平安城市,然而监控采集的高清图片高昂的运算成本无论在摄像头端还是云端都是无法接受的。

 摩尔定律和架构创新

可靠低耗易获得的AI芯片

当处理器设计的更通用,可获得更高的灵活性,但效率低;当处理器设计的更专用,效率得到提升,但灵活性有损失。深度学习可以把很多应用套在算法框架下实现,算法本身是灵活的,设计专用硬件来完成一类算法灵活性也得以保证了。根据摩尔定律,单纯依赖单核到多核、提高频率已经很难保证性能的进一步提升。在摩尔定律不断减缓甚至会停止的情况下,架构创新会对计算能力增长起到更大的作用。深鉴科技做定制计算,针对应用领域分析其计算特征,以此优化去除算法冗余使得效率更佳。

专用体系结构优化

可靠低耗易获得的AI芯片

深鉴科技致力于打造软硬件同时优化的深度学习计算更高效的高性能处理平台。集中力量打造神经网络压缩编译工具链、深度学习处理器 DPU 设计、FPGA 开发与系统优化等技术能力,使用户更易获得其计算能力,工程师、程序员操作更便捷,一键部署。在工具上还有独特的技术,比如模型压缩技术,把软和硬结合在一起来做。先在软件上做压缩,然后在硬件上针对压缩的神经网络做一个专用体系结构的优化。

 此外,深鉴科技CTO单羿还分享了两个其产品在不同应用场景的表现,分别是深度学习之LSTM和在安防领域的应用。

 1.深度学习之LSTM

可靠低耗易获得的AI芯片

LSTM适合时序序列,变长序列,尤其适合自然语言处理。而这其中存在大量矩阵和向量之间的乘法运算,成为运算的一个瓶颈。首先考虑算法本身是否冗余,实验结果在某公开数据集上一个100%稠密的模型得到的错误率在12左右。通过自动化软件模型压缩工具把运算量降低,准确率几乎保持不变。这主要利用了硬件的并行处理能力,众所周知CPU是串行处理的方式,需要去取指令,做译码,做计算,再把数据写回。而特定的硬件处理器好处就是可以让大量并行运算同时发挥其计算能力,使性能得到提升。通过深鉴科技的加速延时上能获得比英伟达P4的GPU好两倍的左右的效果,与CPU相比加速的倍数约在两个数量级以上。这代表着在未来深鉴科技与阿里云合作后,大规模的云计算对成本和功耗非常敏感的情况下,深鉴科技的方案会帮助阿里云明显降低功耗、减少客户的响应时间和节约服务器运营成本。

 2. CNN for Video Surveillance

可靠低耗易获得的AI芯片

安防领域中的大多数设备都实现着人工智能算法,其处理器也是利用了并行处理的能力。深鉴科技的产品与市面上存在的处理器设计相比最大优势不是工艺和器件,而是基于对市场和应用的理解设计出的高效的架构,它使得处理器的实际利用率提升到80%到90%。目前深鉴科技还在向功耗更小,性能更高的平台方向发展。

 通过算法和商业模式的创新,人工智能可以替代人类产生巨大的商业价值,与此同时它对计算能力、计算平台也提出了很大挑战。阿里云建立了丰富的技术生态系统,对人工智能有很大帮助,深鉴科技在微观层面跟阿里宏观的架构做互补,在每一个服务器里芯片设计层面,提出新的架构来优化处理性能,降低运维成本,满足应用需求。



本文由云栖社区志愿者小组naturally整理,毛鹤审校。编辑:郭雪梅。

上一篇:深入学习SAP UI5框架代码系列之七:控件数据绑定的三种模式 - One Way, Two Way和OneTime实现原理比较


下一篇:双11备战“核武器”,白天态全链路压测技术大揭秘!