人工智能 (AI) 渗透率的深化，促使＂边缘＂(Edge) 设备一跃成为嵌入式计算的主战场，就连云端服务供货商 (CSP) 亦积极将战线延伸至地面端。身为全球前三大 AI 芯片供货商之一的恩智浦半导体 (NXP)，对产业趋势有深刻观察：AI 的得势，已让物联网 (IoT) 生态系统发生颠覆性变化——数据处理从互连系统中心转移到边缘。边缘处理已将对于计算应用程序、数据和服务的控制，从某些中心节点转移到因特网的外围；这是 IoT 设备与实体世界接触之处，即数据经由视觉／语音／环境等各式传感器的入口。
边缘推论，处理架构和硬件皆需优化
恩智浦表示，在边缘处理这些数据，可大幅减少待转移的数据量，进而提高隐私性、缩短延迟并提升服务质量；边缘处理使用分布式资源，既脱离了中央核心的依赖，亦消除了主要瓶颈与潜在的单点故障风险。某些应用可能无法持续联机到网络，例如：自动驾驶车、植入式医疗器材、传感器极为分散的场域，以及各式各样的移动设备；在此类严峻环境中使用 AI，必须配备敏捷的应用程序来持续学习，并将结果快速套用到新数据上 (推论)——撷取较小的真实世界数据区块，然后根据程序已经完成的训练，来处理这些资料。
恩智浦表示，在边缘处理这些数据，可大幅减少待转移的数据量，进而提高隐私性、缩短延迟并提升服务质量；边缘处理使用分布式资源，既脱离了中央核心的依赖，亦消除了主要瓶颈与潜在的单点故障风险。某些应用可能无法持续联机到网络，例如：自动驾驶车、植入式医疗器材、传感器极为分散的场域，以及各式各样的移动设备；在此类严峻环境中使用 AI，必须配备敏捷的应用程序来持续学习，并将结果快速套用到新数据上 (推论)——撷取较小的真实世界数据区块，然后根据程序已经完成的训练，来处理这些资料。
图：自动驾驶车是边缘 AI 的明星应用
资料来源：恩智浦提供
他们主张，科技的产生来自于市场需求的推动；在嵌入式计算的世界里，微控制器 (MCU)、微处理器 (MPU)、现场可编程逻辑门阵列 (FPGA) 和专用芯片 (ASIC) 并非存在竞合关系，而是通过应用场景决定采用何种集成电路 (IC)。为了在边缘环境进行推论，处理架构和硬件都需经过优化，并符合对于处理能力、节能、效率、安全性和联机能力的特定要求。藉由开发先进的 IC 产品组合，恩智浦在边缘的机器学习 (ML) 头角峥嵘，尤其是在推论任务方面；边缘 AI 应用的设计目标是在系统成本与最终用户体验之间找到平衡。
例如，采用 ML 技术的微波 AI 烤箱，在 1、2 秒内辨识出食物即可；但辨识停止标志、行人穿越道，或侦测车辆驾驶昏昏欲睡时眼睛即将闭起等情境，需要更快的处理速度。汽车和工业应用着重以最佳架构达成性能与功率效率，以因应今后所遇到的联机能力、资安和安全性挑战。提供驾驶辅助与替代驾驶人员功能的汽车系统，是 AI 部署的主场；S32 系列 IC 为传感器信号处理的推论提供专门领域的解决方案，例如，雷达、光学传感器以及动力传动系统、车辆动力系统及车辆网络联机能力解决方案。
可扩充的处理器＆软件支持是关键
关于定点 vs. 浮点演算的适用性，恩智浦说明，定点主要体现在低功耗方面，例如，处理器硬件的选择或处理器擅长关闭未使用的功能单元时。这是因为对于给定的技术和操作问题率，定点单元通常比浮点更小。这意谓：定点单元的晶体管更少、导线更短、电容须克服每个媒介访问控制 (MAC)。然而，现行许多服务器、个人电脑和移动设备的通用处理器，具有比整数乘法器更多、更快的浮点计算单元 (FPU)——尤其是单精度 FPU，且大部分系统功率非取自 FPU，典型数字信号处理器 (DSP) 若使用＂定点＂计算，就纯性能来说并不讨好、甚至可能是缺点。
关于定点 vs. 浮点演算的适用性，恩智浦说明，定点主要体现在低功耗方面，例如，处理器硬件的选择或处理器擅长关闭未使用的功能单元时。这是因为对于给定的技术和操作问题率，定点单元通常比浮点更小。这意谓：定点单元的晶体管更少、导线更短、电容须克服每个媒介访问控制 (MAC)。然而，现行许多服务器、个人电脑和移动设备的通用处理器，具有比整数乘法器更多、更快的浮点计算单元 (FPU)——尤其是单精度 FPU，且大部分系统功率非取自 FPU，典型数字信号处理器 (DSP) 若使用＂定点＂计算，就纯性能来说并不讨好、甚至可能是缺点。
现阶段，定点多集中在按钮大小的微型嵌入式产品，且要考虑内存和处理器缓存占用情况，巧妙地使用较小的数据类型 (short int 和 float) 以适应高速缓存下、大型计算可能会抵消任何纯 FPU 带宽的优势。恩智浦认为，企业若要加强其 AI 应用产品组合，可扩充的处理器和软件支持是关键，因为这些可让开发人员针对广泛的特定 AI 应用。恩智浦自评竞争力在于：产品组合几乎涵盖了现代 AI 应用中所使用的完整 MCU 和应用处理器产品组合，无论何种应用情境皆能找到合适的解决方案快速开发。
表：恩智浦 MCU 及 AP 产品组合
|
产品家族 |
应用 |
|
i.MX 8M 系列 |
适用于高端音频、语音和视频、语音控制、语音辅助。 |
|
i.MX 8X 系列 |
通过安全验证并具高效能，适合汽车、工业和消费类应用。 |
|
i.MX 8 系列 |
适用于高端绘图、成像与效能，适合汽车、工业和消费类应用。 |
|
Crossover i.MX RT |
适用于音频子系统、消费者与医疗照护、住宅与建物自动化、工业计算、马达控制与耗电应用。 |
|
i.MX 6、7 & 8 |
适用于消费者市场和智能家庭、物联网云端整合。 |
|
Kinetis 与 LPC MCU (采用低功率Arm Cortex) |
核心将优异的性能效率、内存扩充性与整合式安全功能合并在一起。对称密码学所使用的芯片内建硬件加速可降低 CPU 负载，简化实作，减少软件开销并提高系统执行效率。 |
|
Layerscape 产品 |
QorIQ 通信处理器产品组合提供无与伦比的深度与广度。采用 Arm 核心技术建置的新一代 QorIQ Layerscape 系列处理器加入阵容后，此产品组合提供尺寸规格最小的高性能处理器，从功率受限的网络和工业应用，乃至需要高级数据路径和网络周边接口的嵌入式系统，皆可适用。 |
|
S32 MCU 和 MPU |
适用于汽车和工业，是 AI 部署的主要领域。S32 系列 IC 为传感器信号处理的推论提供特有解决方案。 |
资料来源：恩智浦提供；笔者整理
其中，Kinetis 与 LPC MCU (采用低功率 Arm Cortex) 主推将优异的性能效率、内存扩充性与整合式安全功能合并在一起，对称密码学所使用的芯片内建硬件加速可降低中央处理器 (CPU) 负载、简化实作，减少软件开销并提高系统执行效率。恩智浦与 Microsoft Azure、AWS、Google 等 CSP 皆有合作，协助 OEM 业者建立自己的边缘计算产品，强调自家软、硬件皆具备可扩充性及安全性，提供类似服务器的环境、安全认证和记录、设备监控，以及安全容器和应用程序部署，期使边缘计算方案可如云端计算一样普及广泛。
