边缘 AI 平台在性能和效率上胜过 GPU/CPU

Blaize 为边缘 AI 应用程序提供了所谓的人工智能 (AI) 计算硬件和软件的突破，并克服了传统的 GPU/CPU 限制，宣布了新的嵌入式和加速器平台 Pathfinder 和 Xplorer，可实现“无代码”边缘人工智能开发.

这些平台建立在 Blaize 图形流处理器 (GSP) 架构之上。据该公司称，在 7W 功率范围内，GSP 拥有 16 个 GSP 内核和 16TOPS 的 AI 推理性能，与用于边缘 AI 应用的 GPU/CPU 相比，GSP 可以提供高达 60 倍的系统级效率。它还使内存带宽减少 50 倍，延迟减少 10 倍。 Blaize GSP 是 100% 可编程的处理器，具有多线程和流​​式处理等高级功能。

Blaize 表示，其 Pathfinder 和 Xplorer 的早期访问客户正在寻求在工业、汽车、智能零售、地铁和工厂应用中以前不可行的实时 AI 边缘智能视觉用例的生产部署。该公司的联合创始人兼首席执行官 Dinakar Munagala 表示：“当今的边缘解决方案要么太小而无法计算负载，要么成本太高且难以生产。 Blaize AI 边缘计算产品克服了功耗、复杂性和成本的这些限制，在边缘释放了 AI 的应用，促进了 AI 计算从数据中心迁移到边缘。”随着人工智能功能成为许多新产品的要求，边缘人工智能市场预计将迅速增长。 Omdia Research 预计 2025 年边缘 AI 芯片组收入将达到 510 亿美元。

Blaize 的两款新产品是 Pathfinder P1600、嵌入式模块系统 (SOM) 和 Xplorer 加速器平台。 Blaize 表示，P1600 为部署在传感器边缘或网络边缘的嵌入式边缘 AI 应用程序带来了 GSP 的可编程性和效率优势。 P1600不需要主机处理器，所以它只是“即插即用”的情况。

Xplorer 平台通过插入主机服务器或设备中的 PCIe 插槽来加速企业边缘的 AI 应用程序。 X1600E 是一种小型加速器平台，适用于便利店或工业场所等小型且功率受限的环境。它可以轻松添加以加速工业 PC 中的 AI 应用程序，或作为小型 1U 服务器中的卡架。或者，还有 X1600P，它是基于 PCIe 的标准加速器，采用半高半宽的外形。 X1600P 可以取代边缘服务器中耗电的桌面 GPU，并在极低的功耗范围内提供 16-64TOPS 的 AI 推理性能。

Blaize AI 软件套件基于开放标准构建，易于访问，这意味着产品开发人员不会被锁定在专有开发环境中。该软件套件包含 Picasso 软件开发工具包 (SDK) 和 AI Studio（一个完全无代码的可视化界面），为传统开发人员和非编码领域专家提供了工具。此外，这两个工具集都使用了 Blaize Netdeploy，这是一种具有边缘感知算法的 Blaize 系统，可为边缘部署获得最佳准确性和性能。

概念客户证明

Blaize 表示，它有许多概念验证 (POC) 客户使用其系统在边缘启用 AI。应用程序在：

• 工业：以 50FPS 的速度运行五个独立的神经网络，总延迟不到 100 毫秒，可监控人体和机器人姿势检测和位置、产品 ID 和数量以及产品质量。
• 智慧城市：三个独立的神经网络以 50FPS 的速度运行，监控人体检测、姿势、位置、自动检测以及交通路口的安全和安保。
• 传感器融合：高分辨率 FHD 视频和激光雷达/雷达传感器融合作为完整的图形原生应用在 Blaize GSP 上运行。
• 最后一英里交付：30FPS 的高清摄像机和激光雷达/雷达的传感器融合，延迟小于 100 毫秒，功率小于 15W。
• 零售：四个独立的神经网络以 50FPS 的速度运行，监控人体检测、位置、面具和盗窃，以确保商店安全和产品检测。

两条产品线的客户样品现已提供，预计将于今年开始全面生产。 Blaize Xplorer X1600E 的批量采购价格为 299 美元，Pathfinder P1600 SOM 的工业级批量采购价格为 399 美元，Xplorer X1600P 的批量采购价格为 999 美元。