结合TinyML与自动化机器学习构建智能物联网解决方案
物联网通过紧凑传感器实现对环境和机械的持续监测。传感器设计、微控制器和无线协议的快速进步,使物联网平台成为价格低廉、大规模生产、连接选项多样的设备。这些系统的低成本推动了其在公共场所、家庭和工业设备中的广泛部署。
这些传感器全天候采集物理数据,产生海量数据流。例如,旋转机械上的加速度计和陀螺仪记录振动和角速度;空气质量传感器追踪气态污染物;婴儿监护器中的麦克风持续监听;智能手表测量心率等生命体征。磁力计、压力、温度、湿度和环境光传感器也为安装位置提供实时环境洞察。
机器学习(ML)算法能发掘人工分析无法企及的数据模式。结合物联网,ML驱动新一波智能应用——可穿戴设备、智能家居、工业4.0工厂、汽车系统、机器视觉和消费电子——得益于低功耗、低延迟、轻量级推理,即TinyML。
结合自动化机器学习的TinyML
在微小微控制器(MCU)上部署ML具有几大关键优势:
- 数据隐私与安全:推理在本地进行,数据留在设备和本地。
- 节能:极少或无数据传输大幅降低能耗。
- 低延迟与高可用性:本地推理提供毫秒级响应,不依赖网络状况。
点击查看大图

图1:TinyML为传统物联网设备增加先进功能(来源:Qeexo)
自动化机器学习通过Qeexo AutoML等平台,简化从传感器配置、数据采集到模型训练和部署的全流程。该系统为ARM Cortex-M0至M4 MCU及其他受限环境构建轻量级高性能模型。
点击查看大图

图2:Qeexo AutoML工作流(来源:Qeexo)
基于ARM® Cortex™ M0+架构的TinyML
物联网增长要求更小、更节能的MCU。ARM Cortex-M0+芯片主频48 MHz,因每I/O引脚仅消耗7 mA(高端Cortex-M4为15 mA,主频64 MHz)而常用于传感器板。
然而,M0+架构牺牲了内存和算力。它仅支持32位定点运算,无饱和算术和DSP功能。例如,Arduino Nano 33 IoT(Cortex-M0+)提供256 KB闪存和32 KB SRAM,而Arduino Nano 33 BLE Sense(Cortex-M4)具备32位浮点、DSP、饱和算术,闪存和SRAM分别为前者的4倍和8倍。
在M0+上部署ML面临三大核心挑战:
- 定点计算:基于传感器的ML常依赖信号处理、特征提取和推理。从非平稳流中提取统计和频域特征(如FFT)对高质量模型至关重要,但在保持精度的同时用定点表示完成此任务极具难度。
- 低内存容量:256 KB闪存和32 KB SRAM限制模型大小和运行时内存。复杂决策边界通常需要深层树或众多增强器,增加内存占用。压缩模型往往损害性能。
- 低CPU速度:商业部署需毫秒级延迟。M0+的48 MHz主频远低于M4的64 MHz,影响推理速度。
AutoML M0+框架
Qeexo AutoML提供针对Cortex-M0+优化的全定点流水线,解决上述难题。工作流处理传感器数据、特征计算和基于树的集成推理——GBM、RF和XGBoost,采用紧凑数据结构和高效推理逻辑。图3展示此流水线。
点击查看大图

图3:Qeexo AutoML M0+推理流水线(来源:Qeexo)
平台应用专利待批的模型压缩和量化,在不牺牲精度前提下减小内存占用。图4详述Cortex-M0+目标的训练流水线。
点击查看大图

图4:Qeexo AutoML M0+训练流水线(来源:Qeexo)
智能剪枝
Qeexo AutoML并非从头构建小模型,而是先训练大型集成再选择性保留最强增强器。此策略实现更高性能和更大压缩比。图5显示压缩模型约为完整模型十分之一大小,却提供更优交叉验证精度。
点击查看大图

图5:Qeexo AutoML智能模型剪枝(来源:Qeexo)
集成模型量化
Qeexo AutoML将神经网络常用的训练后量化扩展至集成算法。该专利方法进一步缩小模型、提升MCU级延迟,同时保持性能。M0+流水线生成32位定点模型;可选16位或8位量化分别将大小减半或四分之一,推理加速2-3倍。
TinyML典型应用案例
- 智能墙面灯光:在墙面安装加速度计和陀螺仪,学习"敲击"和"擦拭"手势控制灯光。Qeexo AutoML几分钟内构建实时手势模型,实现直观无触控交互。
- 智能物流:AI赋能箱子从源头到目的地监测货物处理过程,确保合规并减少损坏。
- 智能厨房台面:TinyML模型识别厨房电器和操作,提供感知自动化和安全功能。
- 机器故障检测:工业设备传感器实时识别故障模式,支持预防性维护,最小化停机。
- 异常检测:建模健康运行状态,Qeexo AutoML识别偏离——在故障数据稀缺但健康数据丰富的环境中至关重要。
- 可穿戴活动识别:TinyML利用设备端传感器数据分类日常活动,无云依赖即时反馈。
物联网技术