AI已经深入到社会经济的很多领域,尤其进来在手机行业掀起了一股AI的狂潮。很多智能手机搭载了AI处理器,经具备了AI的功能和应用。当前小米、vivo、OPPO等众多OEM厂商的旗下智能手机诸多新品均搭载了高通骁龙AI处理器,成为真正的AI手机,为消费者带来了大量手机AI特性及应用体验。
高通的AI处理器并不是简单的叠加NPU或者引擎单元,而是采用异构计算的方式来实现的。因为不同AI应用场景的功耗和对运算资源的需求各不相同,仅依靠AI处理器的单颗AI内核集中执行AI任务,并不能以最佳方式的解决。AI手机要高效运行AI需要多核异构计算,对AI的运算进行了分布式调度。高通AI处理器集成人工智能引擎AIE,将AI处理器的CPU、GPU、DSP组成一个异构AI平台,会均衡地针对不同的AI算法需求进行处理单元的合理分配,带来更好的效能,再与合作伙伴的应用形成协同,共同构建起来一个AI的业务生态。并且高通的AI处理器并非是通过第三方公司的授权来做的,而是通过在AI方面多年的研发而获得的技术成果。
目前高通推出了三代AI处理器。包括第一代AI处理器骁龙820、第二代AI处理器骁龙835以及第三代AI处理器骁龙845。高通的AI处理器已经覆盖了包括小米、OPPO、vivo、一加、锤子、黑鲨、三星等众多厂家。目前骁龙845、骁龙835、骁龙820、骁龙710、骁龙660处理器都支持人工智能引擎AIE,搭载这些AI处理器的手机成为名副其实的AI手机,让AI技术真正落地。其中骁龙845支持最顶尖的终端侧AI处理,它也将会是AI从云端到终端迁移大潮中的重要一员。
高通AI处理器搭载的人工智能引擎AIE是由多个硬件、软件组成,以实现终端侧人工智能运算能力的加速,进而提升手机AI体验。简而言之,在高通AI体系下,以骁龙845/835/710/660等处理器上的Hexagon向量处理器、Adreno GPU和Kryo CPU为硬件基础,以骁龙神经处理引擎等多个软件框架和Hexagon Neutral Network(NN)等库为接口的异构计算方案。并且人工智能引擎的应用范围广泛,包括智能手机、物联网、车联网等都可以进行广泛应用,换句话说,除了手机的AI体验,所有AI终端设备都可以通过高通AIE得到计算能力提升,为用户带来更好的AI使用体验。
随着AI在全球进一步的普及,AI将越来越多的出现在终端侧。而智能手机终端因其极高的普遍程度也将会成为全球最大的AI入口和创新平台,所以AI在智能手机终端上的大量应用有着广阔的空间。数据显示,搭载高通骁龙处理器的安卓智能手机出货量在2014年已经超过10亿台。相当于全球平均每7个人就有一人在使用搭载了高通骁龙处理器的手机。以高通一直以来在移动处理器领域的领导地位,有非常好的契机去实现和推动AI在终端的应用和普及。
要实现AI并非一朝一夕可达成,目前业界面临的巨大挑战是,AI需要的大量密集计算与终端所能承受的功耗和热效率。而高效的硬件、算法改进和软件工具将是高通应对挑战的三把利器。在硬件方面,算法优化和提升主要包括压缩、层间优化和稀疏优化等;软件方面,高通在提供自己的软件工具以支持在终端侧进行的人工智能的同时,也和生态系统里的合作伙伴合作,支持TensorFlow、Caffe、Caffe2以及一些未来即将发布的框架。
移动领域的规模化,为高通将人工智能带给大众打造了基础。而即将到来的5G时代、物联网时代,让智能互联所需要的计算能力正通过云端分布到设备端。显然,高通在移动领域的领导地位,让高通有机会促进手机和毗邻领域的发展。因此,在高通的AI愿景中,将更专注于帮助智能手机、汽车和机器人等广泛而普及的海量终端实现AI,以确保在有无网络或Wi-Fi连接的情况下都能够完成处理。
实际上,高通在AI技术布局早在多年前已经开始,在AI领域积累了深厚的技术和经验。从2007年开始探索探索面向计算机视觉和运动控制应用的机器学习脉冲神经方法,到将其研究范围从仿生方法拓展到了人工神经网络深度学习领域。并投资AI相关科技企业,推出支持人工智能的AI处理器,高通在AI研究的道路上不断前进,并收获成功。如依托在移动领域积累的高性能、低功耗的技术优势。几年前高通的多代处理器开始支持AI,比如在骁龙处理器的DSP中增加具有HVX向量扩展特性的Hexagon DSP,利用CPU/GPU/DSP进行异构运算、在骁龙820上的Zeroth神经处理引擎、骁龙835的升级版引擎(添加支持谷歌TensorFlow等)。
在2017年高通推出了骁龙神经处理引擎软件开发包,面向搭载骁龙移动平台的移动终端和其他类型的网络边缘终端,加速深度神经网络工作负载运行。这是首个面向骁龙处理器设计的深度学习软件框架。这意味着高通不仅是一家移动平台系统公司,而开始转变为有全面AI解决方案的平台公司。
当然,人工智能离不开海量数据的采集和连接,这些数据分布于数十亿终端之中,需要通过3G、4G、Wi-Fi等多种连接技术实现互联互通。尤其高通正大力发展下一代5G技术,高速率、低时延的5G网络有望将AI带到更多终端和更多行业,包括汽车、AR/VR、智能家居、智慧城市、工业物联网等。同时,5G还可进一步驱动AI在云端和终端之间的紧密配合。
近日,高通推出了全新骁龙710处理器,实现AI性能200%的提升,并且与多家企业展开合作。例如高通与百度合作,利用高通AIE,通过ONNX交换格式,推动实现百度 PaddlePaddle开源深度学习框架模型在高通骁龙处理器的转换与应用。又如高通与网易有道的合作,利用高通AIE组件,加速有道实景AR翻译功能在高通骁龙AI处理器实现,这也是该全新功能首次在安卓平台实现应用。
高通的AI技术并不是封闭的,在与业界分享技术成果时,高通联手OEM厂商和生态系统合作伙伴开展AI创新,加速AI发展;发挥在AI领域的专长,扩大AI产业生态系统的同时,帮助厂商和开发者更轻松地在搭载骁龙AI处理器的手机和终端上开发并推出AI产品。并为消费者带来丰富、无缝并引人入胜的AI功能特性。