边缘 AI 加速：2024 年领先的专用处理器全景

AI 与机器学习工作负载正加速向边缘迁移，市场涌现出越来越多针对不同应用场景、功耗包络和价格点的专用处理器。从行业巨头到敏捷初创公司，每款方案都瞄准特定垂直领域。以下是当前市场领军者的简要概览。

应用处理器

Intel Movidius Myriad X

Myriad X 由爱尔兰初创公司 Movidius 开发，2016 年被 Intel 收购，是第三代视觉处理单元（VPU），首次引入专用神经网络计算引擎。它提供 1 TOPS 深度神经网络（DNN）算力，支持 FP16 与 INT8 精度，并通过智能内存结构紧密耦合以消除数据传输瓶颈。芯片内置 16 个专有 SHAVE 核心和增强版视觉加速器套件。可通过 Intel 神经计算棒 2（即插即用 USB 评估平台）快速在任何工作站部署 AI 与计算机视觉工作负载。

NXP Semiconductors i.MX 8M Plus

i.MX 8M Plus 是一款异构应用处理器，集成了来自 VeriSilicon（Vivante VIP8000）的专用神经网络加速器，提供 2.3 TOPS 推理性能，支持多目标识别、4 万词汇语音识别或 MobileNet v1 以 500 张/秒的速度运行。除加速器外，芯片还包含 2 GHz 四核 Arm Cortex-A53 子系统和 Cortex-M7 实时子系统。视觉支持方面，配备两个高清图像信号处理器，支持立体或单 1200 万像素摄像头；800 MHz HiFi4 DSP 负责语音前后处理。

NXP i.MX 8M Plus 是该公司首款集成专用神经网络加速器的应用处理器，专为物联网场景打造。（图片来源：NXP Semiconductors）

XMOS xcore.ai

xcore.ai 融合了应用处理器性能与微控制器级实时效率，面向语音控制 AIoT 设备。基于 XMOS 专有 Xcore 架构，芯片包含 16 个逻辑核心，可动态分配给 I/O、DSP、控制或 AI 功能，实现软件定义 SoC。支持 32 位、16 位、8 位和 1 位（二值化）神经网络，提供 3200 MIPS、51.2 GMACCs 和 1600 MFLOPS。配备 1 MB 片上 SRAM 和低功耗 DDR 接口，非常适合紧凑、低延迟的语音处理工作负载。

XMOS xcore.ai 是专为语音中心 AI 工作负载设计的专有多功能平台。（图片来源：XMOS）

汽车 SoC

Texas Instruments Inc. TDA4VM

作为 Jacinto 7 系列一员，TDA4VM 是 TI 首款集成深度学习加速器的 SoC。加速器基于 C7x DSP 核心与定制矩阵乘法加速器（MMA），最高可达 8 TOPS。专为 ADAS 设计，可处理 800 万像素前向摄像头流或多路 300 万像素摄像头加雷达、激光雷达和超声波输入，实现自动泊车等高级驾驶辅助功能的传感器融合。面向 5-20W 功耗预算，提供预生产开发套件。

TI TDA4VM 为复杂汽车 ADAS 系统提供单芯片感知与传感器融合。（图片来源：Texas Instruments Inc.）

GPU

Nvidia Corp. Jetson Nano

Nvidia Jetson Nano 为边缘设备带来 128 核 Maxwell GPU 和四核 Arm Cortex-A57 CPU。算力达 0.5 TFLOPS，可在仅 5W 功耗下同时在高分辨率图像流上运行多个神经网络。集成 CUDA X（Nvidia 神经网络加速库套件），提供高性价比开发套件。

Nvidia Jetson Nano 以紧凑、低功耗形态为边缘 AI 提供强大 GPU 算力。（图片来源：Nvidia Corp.）

消费级协处理器

Kneron Inc. KL520

KL520 是面向智能家居、安防系统和移动设备图像处理与人脸识别的专用神经网络处理器。针对卷积神经网络优化，在 0.5W 功耗下提供 0.3 TOPS（约 0.6 TOPS/W），MAC 效率超 90%。其可重构架构与应用压缩的编译器使更大模型能装入芯片资源，降低功耗与成本。KL520 以 AAEON M2AI-2280-520 加速卡形式提供。

Kneron KL520 结合可重构设计与压缩技术，实现高效移动图像处理。（图片来源：Kneron Inc.）

Gyrfalcon Lightspeeur 5801

面向消费电子的 Lightspeeur 5801 凭借处理器内存架构实现 2.8 TOPS 仅消耗 224 mW（约 12.6 TOPS/W），延迟仅 4 ms，能效卓越。10 MB 片上内存可容纳完整模型，时钟频率可在 50-200 MHz 间调节以平衡功耗与性能。该芯片已用于 LG Q70 中端智能手机处理相机特效推理，并提供 USB 拇指驱动器开发套件。

超低功耗

Eta Compute ECM3532

ECM3532 专为电池供电或能量采集物联网设备设计，支持始终开启推理。它将 Arm Cortex-M3 微控制器与 NXP CoolFlux DSP 配对，采用专有电压/频率缩放技术，按时钟周期优化功耗。机器学习工作负载（特别是语音任务）可在任一核心上运行。现提供样片，量产计划为 2020 年第二季度。

Syntiant Corp. NDP100

NDP100 是为严苛功耗预算下的语音指令推理而设计的处理器内存芯片。有效功耗低于 140 µW，支持关键词检测、唤醒词识别、声纹识别和事件分类。面向免提消费设备如耳机、助听器、智能手表和遥控器，提供开发套件。

Syntiant NDP100 为消费物联网提供超低功耗语音处理。（图片来源：Syntiant Corp.）

GreenWaves Technologies GAP9

GAP9 是一款超低功耗应用处理器，拥有九个针对能效优化的自定义指令集 RISC-V 核心。包含双向多通道音频接口和 1.6 MB 内部 RAM。GAP9 可在 12 ms 内以仅 806 µW/帧的功耗在 160×160 图像上运行 MobileNet V1，适合电池供电的图像、音频和振动感知应用。