2月11日，Arm 推出了2款具有 AI 功能的 NPU（神经处理单元），Arm Cortex-M55 和 Ethos-U55。新芯片专为物联网终端设备设计，不需要云连接，旨在提高低功耗嵌入式设备的机器学习和推理能力。Arm称，在某些语音和视觉场景下，能将机器学习性能提升多达 480倍。这两款芯片预计 2021 年初上市。
Edge AI是芯片技术的最大趋势之一。这些芯片可在边缘设备（即没有云连接的设备）上运行AI处理。苹果最近收购了一家Edge AI公司，谷歌的Coral计划旨在使它变得更容易，而芯片制造商ARM已经在这方面进行了多年的努力。
边缘AI的好处很明显，设备本地运行AI而不是在远程服务器上运行AI处理，极大地提高了隐私性和速度。像ARM其他芯片一样，新设计的芯片不会由ARM制造。相反，它们提供给各种合作伙伴设计制造适合的芯片。ARM打算将这些芯片用于开发新的物联网设备，从而将AI处理功能带到更多不具备这些功能的设备上。 ARM想象的一个用例是手杖中的360度摄像头可以识别障碍物，或者新的火车传感器可以本地识别问题并避免延误。
ARM Cortex-M55是ARM Cortex-M处理器系列中的最新型号，该公司表示与以前的Cortex相比，机器学习性能提高了15倍，数字信号处理性能提高了5倍。对于真正苛刻的边缘AI任务，可以将Cortex-M55（或更旧的Cortex-M处理器）与Ethos-U55 NPU结合使用，进一步提升性能，与基本的Cortex-M55相比，它可以将机器学习处理能力再提高32倍，与前几代Cortex-M芯片相比，总的处理能力要高480倍。
ARM表示，当前的Cortex-M平台可以处理诸如关键字或振动检测之类的基本任务。 M55的改进使其可以处理诸如对象识别之类的更高级功能。而且，Cortex-M芯片的全部功能与Ethos-U55结合在一起，可以提供更多功能，并具有本地手势和语音识别的潜力。尽管ARM今天宣布了这些设计并发布了文档，但它预计相关芯片最早要到2021年初才能问世。
Cortex-M55：氦气技术+自定义指令能力
Cortex-M55 属于 Arm 的 Cortex-M 产品系列，具有性价比高、高能效的特点。
这是第一款基于 Arm 氦气技术的片上系统。所谓氦气技术，实际上是针对 Arm Cortex-M 系列处理器的 M-Profile 矢量扩展（MVE）技术，旨在为最小的嵌入式设备提供增强的机器学习和信号处理。
这是 Armv8.1-M 架构的扩展，该架构针对低功耗芯片进行了优化，增加了150多个新的标量和矢量指令。可以有效计算 8 位、16 位和 32 位定点数据。
对于 8 位定点格式，补充了浮点数据类型，包括单精度浮点数（32 位）和版精度浮点数（16 位）。
Arm 表示，与前代产品相比，采用氦气技术的 Cortex-M55 可将数字信号处理性能提高 5 倍，将机器学习性能提高 15 倍。
此外，它还允许高级内存接口提供对机器学习数据的快速访问，并内置于 Arm TrustZone 系统内。
Ethos-U55：Arm 首款 microNPU
Ethos-U55 属于 Cortex-M 处理器的配套 NPU 加速器架构，致力于解决对电池寿命和成本敏感的复杂AI计算难题，需要和 Cortex-M55、Cortex-M33、Cortex-M7、Cortex-M4 等产品搭配使用。
Ethos-U55 的设计非常精简，着眼于面积和功率效率，具有较小的内存占用量。
简而言之，这是一款既小又省电、可以在最小的电子设备上运行的神经网络专用芯片。
它包含 32 至 256 个可配置计算单元，与基本的 Cortex-M55 相比，最多可实现 32 倍的机器学习性能提升。
也就是说，与前几代 Cortex-M 芯片相比，Ethos-U55 + Cortex-M55 的组合，运行机器学习任务的速度最高能提升 480 倍。
Arm表示，与 Cortex-M7 相比，Cortex-M55 和 Ethos-U55 的组合，在推理速度上能快 50 倍，在语音活动检测、噪声消除等任务当中，能效最高能提升 25 倍。
而在软件方面，Cortex-M55 和 Ethos-U55 都可以与流行的机器学习框架（TensorFlow 和 PyTorch），以及 Arm 自家的解决方案很好地配合使用。
应用领域
机器学习现在正在被部署到各种行业的各个系统当中。
AI边缘芯片，正在成为厂商们互相斗法的新“战场”。
比如英特尔的 Myriad，谷歌的 Edge TPU，英伟达的 Jetson Nano 等等。
Arm 认为，终端 AI 市场将成为未来几年中出现爆炸性增长的领域。
新的 IP 版本，正是为了涵盖这一领域。
比如，新芯片将能够把AI应用程序带到农业领域。
成百上千个配备了机器学习功能的低成本传感器可以仔细校准每株植物需要的水量、肥料和杀虫剂。
比如无人驾驶汽车和智能医疗设备的落地，都需要 AI 边缘芯片的加持。
Arm表示，Cortex M55 + Ethos U-55 的组合，可以执行更高级别的机器学习任务，包括手势检测、指纹、面部、语音识别等。
Arm 汽车及物联网业务 VP 兼总经理迪普提·瓦查妮（Dipti Vachani）补充说：让 AI 在功率相对较低的设备上运行，而不是必须与基于云的数据中心保持通信，对数据安全和隐私而言至关重要。
不过，Arm 的新芯片设计都属于推理芯片，对对象分类和实时人脸识别这样的计算密集型任务并不适用。
参考链接
https://venturebeat.com/2020/02/10/arm-unveils-2-new-ai-edge-computing-chips/
https://www.anandtech.com/show/15494/arm-announces-cortexm55-core-and-ethosu55-micronpu
https://fortune.com/2020/02/10/arm-new-a-i-chips/
