边缘 AI:处理为何正转移至设备层
核心要点:
- 连接设备与数据量的爆发式增长,使分布式计算成为速度、性能与数据安全的必然选择。
- NVIDIA 与 VMware 的战略布局,让数据密集型 AI 与机器学习工作负载得以直接在边缘运行。
- 边缘处理为工业物联网至消费级应用等全谱系行业带来实质收益。
全球数十亿传感器与智能设备的普及,让传统中心化云架构触及极限。云计算虽重塑了初创企业的敏捷性与企业的扩展力,但高清视频、自动驾驶、实时物流等新兴负载,要求亚秒级延迟与安全的本地数据处理。
“客户意识到将过多处理卸载到云端已不再可行,”NXP 半导体 AI 技术负责人 Markus Levy 在近期的嵌入式 AI 对谈中表示,“真正的机遇在于边缘。”
MarketsandMarkets 数据显示,边缘计算市场将从 2020 年的 36 亿美元增至 2025 年的 157 亿美元——四倍以上的扩张,动力源于对低延迟、高带宽处理的刚需。
市场动作加速边缘落地:NVIDIA
NVIDIA 于 2020 年 9 月以 400 亿美元收购 Arm,是将 GPU 加速 AI 推向设备端的里程碑。NVIDIA 长期主导数据中心 GPU,而 Arm 在移动处理器领域的统治力——供货 Apple、高通、博通等——为边缘 AI 提供了强大平台。
行业分析师 Zeus Kerravala 指出:“若视 AI 为 GPU 与 CPU 驱动的未来,NVIDIA 构建端到端系统的能力刚刚跃升——尤其是在边缘计算竞技场。”
监管机构因 Arm 广泛的授权网络与 NVIDIA 在移动 CPU 市场的日益影响力,正密切关注该交易的潜在反垄断隐患。
SmartNIC:将智能推向边缘
VMworld 2020 上,VMware 发布 Project Monterey——与 NVIDIA 合作,利用 SmartNIC 与 BlueField DPU 在边缘加速 AI 工作负载。通过将管理程序、网络、安全、存储功能从主机 CPU 卸载至 DPU,Monterey 释放高达 30% 的 CPU 周期供应用逻辑使用。
Omdia 高级分析师 Alexander Harrowell 观察:“趋势明确:将计算移近数据能提升性能与资源利用率。SmartNIC 将管理程序职责转移至网络,解锁哈佛式计算模型。”
VMware 高级副总裁兼 CTO Greg Lavender 解释:“将 I/O 与计算卸载至 SmartNIC 的 Arm 核心,释放 CPU 资源,让应用获得额外算力与内存,运行更快。”
对万物互联生态而言,这一转变让实时 AI 成为可能——正如 Levy 强调的,将被动 IoT 设备转化为智能、响应式系统。
欲了解更多工业物联网报道,敬请参加 12 月的 Industrial IoT World 大会。
物联网技术