跨越鸿沟:让边缘机器学习触手可及
得益于新兴硬件平台,无需正规数据科学训练的设计师也能实现边缘智能。
联网设备和物联网(IoT)已融入日常生活——无论家庭、车辆还是工作场所。虽然大多数设备依赖云服务处理繁重任务,但"边缘智能"新范式正重塑智能系统构建方式。
本文对比云端智能与边缘智能,阐述实际用例,并展示NXP硬件与eIQ软件生态如何赋能各技能水平设计师在边缘部署机器学习(ML)。
图1. 从云计算转向边缘计算释放数十亿ML设备。图片由NXP提供。
关键机器学习术语
云计算
云计算按需提供远程计算资源。服务商维护硬件并保证可用性,客户按使用付费。对大多数企业,云服务仍是大规模分析和训练的首选方案。
边缘计算
边缘计算将处理贴近数据源——在终端用户与云之间。边缘节点处理过滤、缓冲和隐私增强任务,降低延迟和带宽占用并削减成本。现代边缘设备嵌入AI加速器,决定哪些数据值得上送深度分析。
机器学习(ML)
核心上,ML训练算法识别模式。神经网络——尤其是MobileNet等卷积架构——通过在资源受限设备上高效运行,普及了ML。结果是在边缘实现高精度图像分类、语音识别等。
超越数据科学领域的ML
历史上,构建ML系统需深厚数据科学专长。如今格局剧变。预测显示到2025年,98%边缘设备将嵌入ML,约合180-250亿智能设备。这种爆发在计算机视觉、语音分析、视频处理、序列分析等领域开辟可能性。
具体例子包括利用摄像头识别授权用户的智能门锁,或实时检测驾驶员分心的车队管理仪表盘。关键在于这些能力不再局限于专家;懂基础ML的设计师也能组装。
让边缘ML落地的硬件平台
优化神经网络算法结合强大单片机,使复杂ML工作负载在边缘运行成为可能。i.MX RT1170提供双核架构——1 GHz Arm Cortex-M7加400 MHz Cortex-M4——支持实时推理和并发模型执行。内置加密引擎、图形和多媒体支持,使其成为驾驶员分心检测、智能照明、智能门锁和车队管理系统的理想选择。
图2. i.MX RT1170跨界MCU框图。图片由NXP提供。
i.MX 8M Plus面向计算机视觉和工业自动化等高性能应用。专用NPU提供高达2.3 TOPS,四个Arm Cortex-A53核心,可选4K或双高清摄像头支持,能处理人脸识别、目标检测和高级多媒体任务。额外低功耗Cortex-M7核心处理实时网络功能,含CAN FD和TSN千兆以太网。
图3. i.MX 8M Plus框图。图片由NXP提供。
eIQ工具集:从模型到部署
NXP eIQ ML生态将这些强大设备转为开发者友好平台。套件含推理引擎、神经网络编译器和优化库,集成MCUXpresso IDE和Yocto BSP。即将发布的图形化eIQ Toolkit和eIQ Portal,支持"自带模型"(BYOM)和"自带数据"(BYOD)工作流。
图4. 支持BYOD/BYOM工作流和可选推理引擎的eIQ Toolkit和eIQ Portal。图片由NXP提供。
BYOM让开发者在云端训练模型并导入eIQ环境,再选最优推理引擎。BYOD下,同工具箱策划数据集、训练模型并打包——全在同一图形界面完成。
边缘ML:可访问、安全、可扩展
边缘计算保持敏感数据本地、降低带宽成本、削减延迟——结合ML这些优势放大。无论实时驾驶员分心预警还是自动门禁控制,边缘ML正重塑设备与世界交互方式。
通过NXP高性价比硬件与开发者友好软件栈结合,各经验水平设计师均能创建稳健、面向未来的ML解决方案。无论构建单一原型还是部署数十亿设备舰队,工具和平台现已触手可及。
行业文章允许行业合作伙伴以编辑内容不适合的方式,与All About Circuits读者分享有用新闻、信息和技术。所有行业文章均遵循严格编辑准则,旨在为读者提供有用新闻、技术专长或故事。行业文章观点属于合作伙伴,不一定代表All About Circuits或其作者观点。
物联网技术