提高边缘机器学习的可访问性

随着新硬件的出现，“边缘智能”变得越来越容易——即使对于那些没有接受过正式数据科学培训的设计师也是如此。

近年来，连接设备和物联网 (IoT) 在我们的日常生活中无处不在，无论是在我们的家、汽车还是在我们的工作场所。许多这些小型设备都连接到云服务——例如，如今几乎每个拥有智能手机或笔记本电脑的人都使用基于云的服务，无论是主动还是通过自动备份服务。

然而，一种被称为“边缘智能”的新范式正在快速变化的技术环境中迅速获得关注。本文介绍了基于云的智能、边缘智能以及专业用户的可能用例，以使所有人都可以使用机器学习。

图 1。 从云计算切换到边缘计算为构建数十亿台运行支持机器学习的软件的设备提供了可能。图片由恩智浦提供。

关键机器学习术语

云计算

云计算，简单地说，就是在客户需要的时候远程计算资源的可用性。

对于公共云服务，云服务提供商负责管理硬件并确保服务的可用性达到一定的标准和客户的期望。云服务的客户按使用量付费，使用此类服务​​一般只适用于大规模运营。

边缘计算

另一方面，边缘计算发生在云和客户端网络之间的某个地方。

虽然边缘节点确切位置的定义可能因应用程序而异，但它们通常靠近本地网络。这些计算节点提供过滤和缓冲数据等服务，它们有助于提高隐私性、提高可靠性并降低云服务成本和延迟。

最近，人工智能和机器学习越来越普遍地补充边缘计算节点并帮助确定哪些数据是相关的，应该上传到云端进行更深入的分析。

机器学习 (ML)

机器学习 (ML) 是一个广泛的科学领域，但最近，在讨论机器学习算法时，神经网络（通常缩写为 NN）获得了最多的关注。

多类或复杂的 ML 应用程序，例如对象跟踪和监视、自动语音识别和多面检测，通常需要神经网络。在过去的十年中，许多科学家努力改进和优化 NN 算法，使其能够在计算资源有限的设备上运行，这有助于加速边缘计算范式的普及和实用性。

一种这样的算法是MobileNet，它是谷歌开发的一种图像分类算法。该项目表明，高度准确的神经网络确实可以在计算能力明显受限的设备上运行。

不仅仅是专家的机器学习

直到最近，机器学习主要面向对 ML 和深度学习应用程序有深入了解的数据科学专家。通常，开发工具和软件套件不成熟且难以使用。

机器学习和边缘计算正在迅速扩张，对这些领域的兴趣逐年稳步增长。根据目前的研究，到 2025 年，98% 的边缘设备将使用机器学习。这一百分比意味着研究人员预计将有 18-250 亿台设备具备机器学习能力。

一般来说，边缘机器学习为从计算机视觉、语音分析和视频处理到序列分析的广泛应用打开了大门。

可能应用的一些具体示例是与摄像头相结合的智能门锁。这些设备可以自动检测到想要进入房间的人，并在适当的时候允许该人进入。

现代硬件解决方案支持边缘机器学习

由于之前讨论的神经网络算法的优化和性能改进，许多 ML 应用程序现在可以在由 i.MX RT1170 等跨界 MCU 驱动的嵌入式设备上运行。凭借其两个处理内核（一个 1GHz Arm Cortex M7 和一个 400 MHz Arm Cortex-M4 内核），开发人员可以在考虑实时约束的情况下选择运行兼容的 NN 实现。

由于采用双核设计，i.MX RT1170 还允许并行执行多个 ML 模型。额外的内置加密引擎、高级安全功能以及图形和多媒体功能使 i.MX RT1170 适合广泛的应用。一些示例包括驾驶员分心检测、智能灯开关、智能锁、车队管理等等。

图 2。 i.MX RT1170 跨界 MCU 系列的框图。图片由恩智浦提供。点击放大。

i.MX 8M Plus 是一个应用处理器系列，专注于具有高可靠性的 ML、计算机视觉、高级多媒体应用和工业自动化。这些设备的设计充分考虑了智能设备和工业 4.0 应用的需求，并配备了运行速度高达 2.3 TOPS 的专用 NPU（神经处理单元）和多达四个 Arm Cortex A53 处理器内核。

图 3。 i.MX 8M Plus 框图。图片由恩智浦提供。点击放大。

内置图像信号处理器允许开发人员使用两个高清摄像头传感器或单个 4K 摄像头。这些功能使 i.MX 8M Plus 系列设备适用于面部识别、物体检测和其他机器学习任务等应用。除此之外，i.MX 8M Plus 系列的设备还具有先进的 2D 和 3D 图形加速功能、多媒体功能，例如支持 H.265 的视频编码和解码），以及 8 个 PDM 麦克风输入。

额外的低功耗 800 MHz Arm Cortex M7 内核对封装进行了补充。该专用内核服务于需要强大网络功能的实时工业应用，例如 CAN FD 支持和具有 TSN 功能的千兆以太网通信。

eIQ 工具环境

新设备需要易于使用、高效且功能强大的开发生态系统，使开发人员能够构建现代 ML 系统。恩智浦全面的 eIQ ML 软件开发环境旨在帮助开发人员创建基于 ML 的应用程序。

eIQ 工具环境包括推理引擎、神经网络编译器和优化的库，以支持在 NXP 微控制器、i.MX RT 跨界 MCU 和 i.MX 系列 SoC 上使用 ML 算法。开发人员可以通过恩智浦针对 MCUXpresso IDE 和 Yocto BSP 的 SDK 访问所需的 ML 技术。

即将推出的 eIQ Toolkit 添加了一个可访问的 GUI； eIQ 门户和工作流，使所有经验水平的开发人员都能创建机器学习应用程序。

图 4。 eIQ 工具包和 eIQ 门户，带有 BYOD 和 BYOM 工作流程以及 eIQ 推理引擎的选择。在 NXP 设备上部署 ML 应用程序时，eIQ 工具包可帮助所有经验水平的开发人员。图片由恩智浦提供。

开发人员可以选择遵循称为 BYOM（自带模型）的流程，在该流程中，开发人员使用基于云的工具构建他们经过训练的模型，然后将其导入 eIQ Toolkit 软件环境。然后，剩下要做的就是在 eIQ 中选择合适的推理引擎。或者，开发人员可以使用基于 eIQ Portal GUI 的工具或命令行界面来导入和管理数据集，并使用 BYOD（自带数据）工作流在 eIQ 工具包中训练他们的模型。

面向所有人的边缘机器学习

大多数现代消费者都熟悉云计算。然而，近年来，一种被称为边缘计算的新范式引起了人们的兴趣。

使用这种范式，并非所有数据都会上传到云端。相反，位于最终用户和云之间的边缘节点提供额外的处理能力。这种范式有很多好处，例如提高安全性和隐私性、减少向云端传输的数据以及降低延迟。

最近，开发人员经常使用机器学习功能增强这些边缘节点。这样做有助于对收集的数据进行分类并过滤掉不需要的结果和不相关的信息。将 ML 添加到边缘可以实现许多应用，例如驾驶员分心检测、智能灯开关、智能锁、车队管理、监控和分类等等。

ML 应用程序传统上由对 ML 和深度学习应用程序有深入了解的数据科学专家专门设计。恩智浦提供一系列价格低廉但功能强大的设备，例如 i.MX RT1170 和 i.MX 8M Plus，以及 eIQ ML 软件开发环境，以帮助任何设计人员开放 ML。该硬件和软件旨在让开发人员能够构建具有任何经验水平的面向未来的 ML 应用程序，无论项目大小。

行业文章是一种内容形式，允许行业合作伙伴以编辑内容不太适合的方式与 All About Circuits 读者分享有用的新闻、消息和技术。所有行业文章都遵循严格的编辑指南，旨在为读者提供有用的新闻、技术专长或故事。行业文章中表达的观点和意见是合作伙伴的观点和意见，不一定是All About Circuits或其作者的观点和意见。