AI 芯片支持超低功耗设备中的推理
伦敦——下一代 GreenWaves 的超低功耗 AI 加速器 GAP9 的功耗将是其前身 GAP8 的五倍，同时处理的算法大 10 倍。新设备将以 50mW 的总功耗提供高达 50 GOPS 的性能。这归结为架构改进和新的最先进的 FD-SOI（完全耗尽绝缘体上硅）工艺技术的结合。
与上一代设备一样，GAP9 的目标是在网络最边缘的系统中进行 AI 推理，例如小型、电池供电的 IoT 传感器节点。例如，GreenWaves 的数据显示 GAP9 在 160 x 160 图像上运行 MobileNet V1，在短短 12 毫秒内通道缩放为 0.25，功耗为 806 μW/帧/秒。
位于法国格勒诺布尔的 GreenWaves 选择了 GlobalFoundries 的 22nm FDX FD-SOI 工艺，以最大限度地降低已经是超低功耗架构的功耗。
“对于 GAP9，我们已经根据客户对 GAP8 的反馈调整了 GAP8 架构，但同时我们已经转向市场领先的半导体工艺，”GreenWaves 营销副总裁 Martin Croome 说。 “我们正在使用 FD-SOI 中的体偏置能力，使我们能够实现更低的功耗。”
架构改进
GreenWaves 对 GAP9 进行了多项架构改进。
又增加了一个 RISC-V 内核，使总数达到 10 个。一个内核用作结构控制器以及某些模式下的低强度计算。其他九个组成一个具有共享 L1 数据区的计算集群。该集群中的一个核心（新的）用作任务组主控，计算内存移动并管理其他八个核心上的任务。
内部 RAM 增加了两倍至 1.6MB，内存带宽增加到 L1 的 41.6 GB/秒和 L2 的 7.2 GB/秒。
“这个 [内存带宽] 现在对于 MCU 级设备来说非常重要，”Croome 说。
GreenWaves 的 GAP9 超低功耗 AI 芯片架构现在使用 10 个 RISC-V 内核（图片：GreenWaves）
GAP9 架构的变化还包括更高的最高频率； GAP8 主频为 175MHz，GAP9 将运行在或接近 400MHz。还添加了新的功率状态，包括可以获取数据但功耗仍低于 1 mW 的“昏昏欲睡”状态。在这种状态下，处理器可以在可以快速启动的低压差稳压器 (LDO) 上运行。这将 GAP9 的第一条指令时间缩短到几微秒（GAP8 在等待 DC-DC 转换器稳定时花费了大约 700 微秒，Croome 说）。这种快速启动功能在捕获语音等基于时间的信号时非常有用。
所有 10 个内核现在都能够处理“超精度”浮点数：IEEE 格式 16 和 32 位浮点数以及额外的 8 位和 16 位格式，支持矢量化。此功能可用于降低需要浮点的算法的能量需求。 GAP9 还支持矢量化 4 位和 2 位操作，适用于利用深度量化的应用程序。
其他新功能包括双向多声道音频接口。
GAP9 预计将在 2021 年实现量产，样品将于 2020 年上半年推出。 Croome 表示，与 GAP8 相比，定价预计将溢价 50%。鉴于不同的时间、功率数据和价格点，该公司预计这两种产品都会在未来找到市场。
嵌入式