微控制器驱动下一波边缘AI浪潮

直到最近，机器学习甚至深度学习被视为强大服务器专属，训练推理由网关、边缘服务器、数据中心处理。此观点成立因云边分布式计算转变仍处萌芽。今日，业界学界突破改变范式。

结果，每秒万亿次运算（TOPS）高性能处理器不再是ML工作负载先决条件。许多配备专用ML加速器的现代微控制器现将智能推理直接带至边缘设备。

这些控制器高效、极低成本功耗执行ML任务，仅需时连云端。本质上，嵌入ML加速器微控制器标志着赋予传感器——麦克风、相机、环境监测器——设备端智能的下一跃迁，这是IoT价值链基石。

边缘有多深？

边缘常定义为IoT网络离云最远点，常由高级网关或边缘服务器代表。现实中边缘止于传感器本身——那些靠近最终用户定位者。因此在传感器内直接嵌入尽可能多分析合乎逻辑，微控制器完美胜任此角色。

MobileNet V1不同宽度乘数模型示例显示对参数量、计算量、准确率剧烈影响。但宽度乘数仅从1.0变0.75对TOP-1准确率影响微小，却显著影响参数量和计算量（图片：NXP）

单板计算机确实能执行边缘处理，提供令人印象深刻性能，集群时逼近小规模超算。但对大规模部署需求的数千单元仍过于笨重昂贵。且需外部直流电源——受限环境常无——而MCU仅汲取毫瓦、可纽扣电池或几个太阳能电池运行。

因此基于微控制器边缘ML领域——称TinyML——大爆发。TinyML旨在小型、低功耗、资源受限设备、特别是微控制器上实现推理、最终训练，而非依赖大平台或云。这需要适配有限处理、存储、带宽预算同时保持性能的紧凑神经网络模型。

资源优化模型使设备捕获任务足够传感器数据，同时微调准确率降低资源需求。因此尽管部分数据仍可能传输——直达云或经边缘网关——量显著降低因初步分析已在设备端执行。

常见TinyML用例：基于相机物体检测系统可捕获高分辨率图像却面临有限存储需降分辨率。设备端分析下，相机仅捕获感兴趣物体，为选中帧保留更高分辨率。此功能级别——曾为强大硬件保留——现因TinyML在微控制器可实现。

虽小却强

虽TinyML新兴领域，已在适度微控制器上交付令人印象深刻推理——越来越多训练——性能，准确率损失可忽略。近期成功跨越语音和人脸识别、语音指令自然语言处理、多复杂视觉算法并发执行。

实用层面，定价$2以下、搭载500MHz ARM Cortex-M7核心、28KB-128KB内存微控制器可提供渲染传感器真正智能所需性能。

即使此成本，此类微控制器含强大安全特性（AES-128）、支持多外部内存类型、以太网、USB、SPI、及蓝牙、Wi-Fi、SPDIF、I²C音频等传感器接口。适度涨价典型得1GHz Cortex-M7、400MHz Cortex-M4、2MB RAM、图形加速，仅从3.3V供电汲取几毫安。

机器学习用例（图片：NXP）

关于TOPS几句话

制造商常用单一指标——万亿次运算每秒（TOPS）基准神经网络加速器。虽吸引人但此数字可能误导。反映受控实验室环境原始计算容量，忽略内存带宽、CPU开销、数据预后处理等实际约束。真实部署中可达吞吐量可能仅宣传TOPS值50-60%。

且对通常仅1-3 TOPS微控制器，此指标信息量更少。这些微小设备真正力量在于紧密集成ARM Cortex处理器、支持整数浮点运算、能以最小占用运行TensorFlow Lite等推理引擎。

结语

直接在传感器上或旁运行推理推动加速，因IoT生态系统向边缘中心处理迈进。微控制器级神经网络加速器快速进步将AI功能与应用处理器整合，无显著功耗或尺寸上涨。强大CPU/GPU训练模型可用TensorFlow Lite瘦身部署至微控制器，轻松扩展满足增长ML需求。很快甚至训练也将在这些设备可行，定位微控制器为更大、更昂贵系统强劲竞争者。

>> 本文原载姊妹站EE Times。