手机芯片AI哪家强？以前是各说各的好。但自从苏黎世联邦理工学院开发了AI Benchmark后，业界终于有了统一的标准。在最新的榜单中，联发科技的Helio P90以19453分的成绩位列前茅。这款神秘的旗舰处理器还没有正式亮相，它身上的AI光环已经引发了公众的好奇。
AI从云端落地
阿法狗击败人类让AI出现在大众的面前，实际上，在2012年的ImageNet（大规模视觉识别挑战赛）上，AI就已初露锋芒。
ImageNet大赛是测试程序能以最高的正确率对物体和场景进行分类和检测的挑战赛。2012年，加拿大人Alex Krizhevsky突破性地提出AlexNet网络结构，借助深度学习的算法，将图像特征的提取、筛选和分类三个模块集于一体，以15.4%的创纪录低失误率夺得了当年的冠军。自此，计算技术的AI时代就正式开启了。
如今的手机拍摄很多都有AI技术的加持，面部识别、降噪、提高分辨率都已经开始采用深度学习的成果。不过，最初的时候，训练和识别都是在云端完成的，手机拍到一张汽车的照片，要发送到云端进行辨识，云端判断出这是一辆汽车，再回传到手机端。在这一过程中，网络的速度和响应就可能成为瓶颈，因而终端也要有自己的AI功能。
而如果数据能够在手机端得到筛选和处理，仅将有价值的信息通过网络传至云端甚至于直接可以将用户需要的结果返回，就近处理的理念可以节省大量的资源，同时提高了系统效率。为此，终端AI的需求也越来越强劲。
实现终端AI大为不易
而现有的解决方案大都是在云端在训练，在终端做推断。“终端推断的挑战在于网络模型复杂度大幅提升，需要大量的计算。”联发科技计算与人工智能技术群处长吴骅解释道，“像识别物品这一小操作也需要6亿次的计算，如要追求更准确，少说也要达到100G（MACs）。而且深度学习每一层计算产生的数据量极大，造成内存需求也很可观。”
“终端的内存不可能像云端那么高企，动辄128G或256G。另外，在终端进行处理，反应时间就要很快，安全性也很重要，也不能太耗电，这些都是目前在终端做AI的挑战。”吴骅补充说。
总结起来，实现终端AI的挑战来自三方面：第一是深度神经网络的工作负担，包括计算强度、高内存、大带宽和存储、多任务等；第二是器件的限制，包括了热损耗、内存资源和电池续航；第三就是用户的诸多期望与现实之间的差距如何缩小。
一句话，前景很美，挑战很强。
Neuropilot大升级
终端AI的落地离不开终端的SoC，为了让SoC应对上述的挑战，联发科技的Neuropilot平台应运而生。
这是一个以异构运算为基础的人工智能平台，大致分为三个层级，最顶层是各种应用程序（APP），中间层用于程序编写和异构运算，最底层是各种硬件处理器（CPU、GPU、APU）。
这一平台是在今年1月推出的，不到一年的时间，最新的2.0版本就出现了。据悉，2.0版本最大的升级就是计算力的大幅提升，APU由1.0升级到2.0，以应对越来越复杂、越来越快速的应用挑战。
另一个升级就是系统的优化，“AI功能不会被单独使用，更多是协同处理，所以联发科技花了一年时间进行探索，进行网络优化减少带宽使用，在算力提升的同时控制功耗。”联发科技无线通信事业部产品规划及行销资深总监李彦辑博士表示。
Neuropilot 2.0还用到了网络剪枝和量化技术。网络剪枝技术将会去除错综复杂的网络中不重要的神经元，隐去不重要的参数。经过测试，化解后的MobileNet V1网络可以节省35%的运算量，也可以节省25-30%的带宽，但准确率并不会下降。量化技术则通过将32位浮点数据格式转化为其他格式，来减小模型尺寸的空间进而降低计算资源需求。具体来说，如果转化为INT8格式，准确性只下降了0.2%，但是所需能量从原来的90.2mJ下降到8.4mJ，相当于降低到原来的十分之一。
不只如此，NeuroPilot 平台对开发者也非常友好，提供了从最上层系统级到中间 runtime 层级到最底层的工具包，即使是非专业的用户也能立马上手进行开发。
“十年寒窗苦”
回到文初，联发科技的P90在AI测试上的表现让人刮目相看。它不仅是联发科技一系列AI技术的结晶，结合Neuropilot 2.0，也将成为联发科技在AI布局上的重要一环。
联发科技在AI上的起步并不晚，2014年就有产品应用在智能音箱上。回忆起在AI技术上的开发历程，“就类似于十年寒窗苦读无人问，一举成名天下知。”吴骅感慨道，“从2014年就开始钻研算法、SDK，并一直与产品部门沟通，希望在手机上应用，但是吃了闭门羹，不过还是在默默研究，直到阿尔法狗打赢了李世石，情况才有了改观。”
今年初发布的P60芯片是联发科技在手机上初试AI的产品，销量超过预期，让财报有了较大提升，也给用户对联发科技的产品印象加分不少。随后，P70乘胜追击，进一步获得了市场的认可。重头的P90虽然没有发布，但随着在AI Benchmark上的跑分公布，已经引发了极大的关注。
不过，联发科技不希望业界只关注跑分。“我们更重视实际应用的体验，下周的发布会将展示丰富的AI应用。”吴骅表示，“功耗和性能的平衡才是最重要的。”
目前联发科技一年能卖出15亿台的设备（device），包含手机、电视等，未来的愿景是将AI拓展到生活的方方面面。吴骅最后透露，联发科技明年计划将AI拓展到家庭应用如电视方面，因为电视影像比还是最重要的，接下来则会进入车用领域。联发科希望将AI进一步普及，让AI能力使生活更丰富。
