趋势继续将 AI 的处理推向边缘

本文的主要内容包括：

• 出于速度、性能和数据安全的原因，设备激增和数据量现在有利于分布式计算模型
• NVIDIA 和 VMware 最近的供应商举措为边缘的数据密集型处理（例如 AI 和机器学习）提供支持。
• 许多流程和行业将受益于将处理推向边缘，包括工业物联网和基于消费者的物联网。

随着连接设备的激增，新的处理方式应运而生，以适应设备和数据爆炸。

多年来，组织已经转向云中的集中式异地处理架构，远离本地数据中心。云计算使初创公司能够创新和扩展他们的业务，而无需在数据中心基础设施上进行巨额资本支出或 IT 管理的持续成本。它使大型组织能够使用按需资源快速扩展并保持敏捷。

但随着企业转向更远程的模型、视频密集型通信和其他流程，他们需要一个边缘计算架构来适应数据占用任务。

这些数据密集型流程需要在几分之一秒内完成：想想自动驾驶汽车、视频流或实时跟踪运输卡车的路线。将数据往返发送到云并返回到设备需要太多时间。它还可以增加成本并破坏传输中的数据。

NXP Semiconductors 人工智能技术主管 Markus Levy 在一篇关于嵌入式人工智能的兴起。

近年来，边缘计算架构已经脱颖而出，以适应数据和设备的激增以及这些数据的移动速度。

根据 MarketsandMarkets 的数据，边缘计算市场预计将从 2020 年的 36 亿美元增长到 2025 年的 157 亿美元。

市场动向继续将处理推向边缘：NVIDIA

图形处理单元 (GPU) 市场的巨头 NVIDIA 和虚拟化供应商 VMware 最近的举措支持这些新的分布式处理架构，并为边缘闪电般的快速处理铺平了道路。

首先，例如在 9 月，NVIDIA 宣布打算为 Arm 支付 400 亿美元——部分是为了继续推动人工智能更接近边缘。虽然英伟达凭借其 GPU 在数据中心占据主导地位，但 Arm 在移动市场拥有据点，为苹果、高通等公司供应芯片。

“如果你相信未来是人工智能，并且你相信它由 GPU 和 CPU 驱动，那么 NVIDIA 创建这些端到端系统的能力就会大大提高，”Zeus Kerravala 在接受 NVIDIA 的视频采访时说-Arm 交易和边缘人工智能的前景。 “尤其是在边缘计算市场——[NVIDIA] 将全力以赴。”

NVIDIA 与 Arm 的交易存在监管方面的担忧，包括它是否会危及 Arm 的成功许可业务。 Arm 与合作伙伴（除了竞争对手 AMD 和英特尔）拥有数百个许可证，其中包括苹果、高通和博通等巨头。 NVIDIA 对移动 CPU 市场的新控制也引起了严重的反垄断担忧。

SmartNIC：将处理向下移动到边缘

其次，在 9 月下旬的 VMworld 2020 虚拟会议上，VMware 宣布了 Project Monterey，旨在通过 SmartNIC（或智能网络接口卡）技术和 NVIDIA 的数据处理单元 (DPU) 提供改进的 AI 性能。蒙特雷项目涉及与包括 NVIDIA 在内的多家公司合作，以加强基础设施以支持边缘 AI 应用程序。

Monterey 将虚拟机管理程序、网络、安全和存储任务从主机 CPU 卸载到 NVIDIA 的 BlueField DPU。将此处理转移到 DPU 和 SmartNics 可以推动 AI、机器学习和其他以数据为中心的应用。

SmartNIC 从服务器 CPU 运行非应用程序任务，因此服务器可以更快地运行更多应用程序。

Omdia 高级分析师亚历山大·哈罗威尔 (Alexander Harrowell) 表示：“人们普遍对让计算更贴近数据产生了浓厚的兴趣。

“它将虚拟机管理程序的抽象从主机向下移动到网络......并将虚拟机管理程序本身所做的一些工作卸载到该卡中，”Harrowell 说。 “它使您支付的更多处理能力可用。所以这里有一个故事，从经典的英特尔 x86 模型转变为所谓的哈佛计算模型。”

Harrowell 指出，这种分布式计算趋势将继续快速发展，并支持更复杂的处理，例如 AI 处理。

VMware 高级副总裁兼首席技术官 Greg Lavender 表示：“通过将大量 I/O 工作卸载到 Arm 核心并利用这些 SmartNIC 中的硬件卸载，您可以卸载该处理并释放甚至多达 30% 的 CPU ……并将其返还给应用程序，以便 [它] 从这些额外的计算和内存资源中获益。

对于互联事物市场，将处理向下堆栈转移到这些分布式边缘架构中，对于需要快速响应时间的数据密集型流程来说将是一大福音。

NXP 的 Levy 表示：“现在您可以在边缘进行人工智能，您可以将物联网变成具有真正功能的东西。

>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>

更多关于工业物联网的报道，请参加今年 12 月的工业物联网世界。