Nvidia GTC：新的 Jetson 模块为嵌入式边缘 AI 提供 200 TOPS

在 Nvidia GTC 上宣布的是 Nvidia Jetson AGX Orin，该公司称这是世界上最小、最强大、最节能的人工智能超级计算机，用于机器人、自主机器、医疗设备和其他形式的边缘嵌入式计算。

Jetson AGX Orin 基于 Nvidia Ampere 架构，提供 6 倍的处理能力，并保持与其前身 Jetson AGX Xavier 的外形和引脚兼容性。它每秒可提供 200 万亿次操作，类似于支持 GPU 的服务器，但大小却适合您的手掌。

新的 Jetson 计算机加速了完整的 Nvidia AI 软件堆栈，使开发人员能够部署最大、最复杂的模型，以解决自然语言理解、3D 感知和多传感器融合方面的边缘 AI 和机器人挑战。

Nvidia 副总裁兼嵌入式和边缘计算总经理 Deepu Talla 表示：“随着机器人和嵌入式计算改变制造、医疗保健、零售、交通、智慧城市和其他重要经济部门，对处理的需求继续激增。 . “Jetson AGX Orin 满足了这一需求，使 850,000 名 Jetson 开发人员和 6,000 多家在其上构建商业产品的公司能够创建和部署曾经看似不可能的自主机器和边缘 AI 应用程序。”

Jetson AGX Orin 采用 Nvidia Ampere 架构 GPU 和 Arm Cortex-A78AE CPU，以及下一代深度学习和视觉加速器。高速接口、更快的内存带宽和多模式传感器支持提供了支持多个并发 AI 应用程序管道的能力。

软件和生态系统支持
使用 Jetson AGX Orin 的客户可以利用 CUDA-X 加速计算堆栈、JetPack SDK 和最新的 Nvidia 工具进行应用程序开发和优化，包括云原生开发工作流。来自 Nvidia NGC 目录的预训练模型经过优化，可以使用 TAO 工具包和客户数据集进行微调。这减少了生产质量 AI 部署的时间和成本，而云原生技术允许在产品的整个生命周期内进行无缝更新。

Jetson 嵌入式计算合作伙伴生态系统包含广泛的服务和产品，包括相机和其他多模式传感器、载板、硬件设计服务、人工智能和系统软件、开发者工具和定制软件开发。

TIRIAS Research 首席分析师 Jim McGregor 表示：“在人工智能进步的推动下，机器人市场呈指数级增长。 “英伟达是公认的人工智能领导者，并继续利用这一专业知识通过强大的生态系统和完整的端到端解决方案推进机器人技术，包括一系列利用通用工具和神经网络模型的硬件平台。新的 Jetson 平台带来了 Nvidia Ampere 架构的性能和多功能性，使自主移动机器人进一步进步，适用于从农业和制造业到医疗保健和智慧城市的广泛应用。”

对于特定用例，软件框架包括用于机器人技术的 Omniverse 上的 Nvidia Isaac Sim、用于医疗保健的 Nvidia Clara Holoscan SDK 和用于自动驾驶的 Nvidia DRIVE。最新的 Isaac 版本包括对机器人操作系统 (ROS) 开发人员社区的重要支持。 Nvidia 还发布了用于合成数据生成的全新 Omniverse Replicator 和 Isaac GEM，这是硬件加速软件包，使 ROS 开发人员可以更轻松地在 Jetson 平台上构建支持人工智能的高性能机器人。

医疗器械、设备的实时传感
AGX Orin 为 Nvidia Clara Holoscan 提供支持，这是一个用于医疗保健行业的新计算平台，允许开发人员构建软件定义的医疗设备，在边缘运行低延迟流应用程序。机器人手术、内窥镜检查和诊断成像系统等设备需要这种处理能力来处理物理、成像和可视化，并为医生提供实时人工智能决策支持。 Clara Holoscan 为开发人员提供了一个灵活的平台来创建 AI 微服务，这些服务在设备上运行低延迟流应用程序，同时将更复杂的任务传递给数据中心。

交通人工智能助手
DRIVE AGX Orin 也采用 Ampere 架构（如 Jetson AGX Orin），是运输行业的平台。它是新发布的 Nvidia DRIVE concierge 和 DRIVE chauffeur 背后的先进处理器——这两个人工智能平台致力于通过人工智能助手重新定义车内乘客的体验，并分别为安全、自动驾驶提供动力。众多全球汽车和卡车制造商、新能源汽车初创公司和班车公司正在将其高性能 AI 计算用于其下一代智能、软件定义的移动解决方案。

Jetson AGX Orin 模块和开发者套件将于 2022 年第一季度推出。