NVIDIA 与 VMware 合作推进 GPU 虚拟化，降低 AI 成本
提高 GPU 利用率，大幅降低 AI 部署成本
在今日的 VMworld 2019 大会上，NVIDIA 和 VMware 宣布共同使在图形处理器（GPU）上部署 VMware 虚拟机成为可能。
作为该计划的一部分，NVIDIA 宣布其虚拟 GPU (vGPU) 软件现在可部署在服务器上的虚拟机中，除了现有的客户端系统支持。NVIDIA Virtual Compute Server (vComputeServer) GPU 软件也扩展支持 VMware vSphere 平台。NVIDIA 还承诺将其用于构建人工智能 (AI) 应用的工具中心在 VMware 平台上提供。
延伸阅读： What are the 3 Key Components of Artificial Intelligence Readiness?
利用这些 NVIDIA 技术，VMware 承诺提供一项云服务，包含由运行 vComputeServer 软件的 NVIDIA T4 GPU 加速的 Amazon EC2 裸金属实例，部署在 VMware Cloud on AWS 上。
NVIDIA Grid 产品副总裁 John Fanelli 表示，这些进步不仅显著提高 GPU 利用率，还使数据科学家能在运行于本地或云端 VMware 服务器上的 GPU 上聚合多个工作负载。
尽管利用 GPU 构建 AI 应用的兴趣浓厚，但构建成本往往高得令人望而却步。在没有虚拟机的情况下，每个 GPU 以前只能专用于单一工作负载。Fanelli 表示，通过提高 GPU 利用率，构建和部署 AI 应用的成本将大幅降低。
这至关重要，因为这些成本抑制了组织对 AI 应用的投资，而 AI 有潜力改变人类生存的几乎每个方面。
“AI 是我们时代最强大的技术，”Fanelli 说。
不过，运行在虚拟机上的 AI 工作负载性能会因其个别属性而异。Fanelli 指出，许多开发者可利用 NVIDIA CUDA 工具包并行执行 AI 工作负载，以补偿任何性能问题。
随着高效构建和部署 AI 应用变得更负担得起，未来几个月启动的 AI 项目数量应会增加。为加速这一进程，VMware 还表示客户可使用 VMware HCX 工具将工作负载从本地数据中心的 GPU 实例迁移到云，该工具自动化虚拟机移动并加速平台间数据传输。
主要在云端访问的 GPU 已成为训练 AI 模型的首选平台，因其高效管理内存和 I/O 开销。NVIDIA 尽管成效不一，但一直主张也依赖 GPU 运行执行 AI 模型的推理引擎，以取代 x86 服务器。通过为其软件添加服务器虚拟机支持，在同一 GPU 平台上运行多个推理引擎将变得更可行，就像在 x86 平台上部署推理引擎一样。
当然，获得额外基础设施资源不一定保证 AI 成功。但这些资源将大大降低 AI 开发过程中的试错成本。
物联网技术
- 沃尔沃集团与Nvidia合作，构建AI赋能自主卡车平台
- Advantech 结合 NVIDIA 集成将加速计算扩展至边缘
- ADLINK 基于 NVIDIA EGX 平台部署从边缘到云的 AI：加速边缘计算解决方案
- Syslogic 发布 IP67 AI 坚固型计算机：基于 Nvidia Jetson-TX2，面向极端环境
- IIC 与 OpenFog 联手引领工业物联网分布式计算
- 防范灾难：掌握ISO 26262赋能自动驾驶安全
- 可靠性互联网中的数据驾驭：高效管理策略
- 革新消防：IoT 如何提升安全、响应与救援
- 边缘时代的物联网：增长、数据、安全与合作伙伴策略
- 物联网革新现场服务：预测性维护驱动更高ROI
- 物联网如何重塑消费业务与制造业
- 5G与物联网：驱动数字化转型的下一波浪潮