Qualcomm发布Cloud AI 100：面向5G及未来的高能效边缘AI加速器
自2019年4月首次发布近18个月后，Qualcomm确认Cloud AI 100硅片已投产，将于2021年上半年出货。公司还披露卡形态和性能基准，凸显其针对边缘AI工作负载就绪。
Qualcomm长期凭借Snapdragon主导智能手机市场，但早期服务器级Centriq系列2018年终止。Cloud AI 100标志Qualcomm战略切入近边缘服务器市场，以卓越能效提供高吞吐AI推理。
Qualcomm Cloud AI 100专为近边缘AI工作负载设计，如5G基础设施和企业数据中心。
形态与性能
Qualcomm初期提供Cloud AI 100三种卡规格：
- 双M.2边缘（DM.2e）——15 W下超50 TOPS
- 双M.2（DM.2）——25 W下200 TOPS
- PCIe——75 W下高达400 TOPS
这些数字为理论“原始”TOPS，未计真实应用开销。尽管如此，Qualcomm自有性能曲线显示PCIe版在仅消耗少部分功耗前提下超越许多领先方案。
ResNet-50推理吞吐量对功耗。Qualcomm卡在能效上领先，批大小8（除Nvidia A100外）。
Qualcomm高级产品管理总监John Kehrli表示：“我们将移动平台上超十年AI研发带入新核心。架构虽异于Snapdragon，但专长和每瓦性能显而易见。”
芯片架构
Cloud AI 100是基于7 nm FinFET工艺的推理加速器。内含高达16个AI核心，支持INT8、INT16、FP16、FP32精度。芯片含144 MB片上SRAM（128 MB共享、每核1 MB）并接口高达32 GB LPDDR4x DRAM（4×64 LPDDR4x @ 2.1 GHz），提供AI工作负载所需高内存带宽。
目标应用
加速器针对广泛边缘用例：计算机视觉、语音识别、自动驾驶、语言翻译、推荐引擎。Qualcomm将Cloud AI 100定位四大主流市场：
- 云边缘数据中心
- 高级驾驶辅助系统（ADAS）
- 5G边缘盒（本地独立设备，用于智慧城市和企业）
- 5G基础设施（AI驱动波束成形和基站优化）
自动驾驶领域，Cloud AI 100衍生版驱动Qualcomm Snapdragon Ride平台，利用相同架构和软件栈。
参考设计与开发套件
Qualcomm推出新开发套件，含由Cloud AI 100驱动的5G边缘盒参考设计。套件将加速器与Snapdragon 865主机处理器配对，提供完整视频管线支持高达24路全高清视频解码。还含预认证Snapdragon X55 5G调制解调器。
Kehrli强调：“此套件使客户能立即启动演示应用。预编译ResNet-50提供边缘AI解决方案快速起步。”
部署时间表
Qualcomm预期初期商业部署聚焦边缘场景——智慧城市、零售分析、制造——因认证周期较短。Cloud AI 100已与选定客户开始送样，开发套件下月面向有限受众送样。
注：本文原发于EE Times。
嵌入式