Mipsology Zebra一条命令将GPU AI代码转为FPGA加速器

前瞻AI软件初创公司Mipsology携手Xilinx，释放FPGA在AI负载上的全部潜力。其“零门槛”方案Zebra将现有GPU代码转译为可在FPGA上运行Mipsology定制AI计算引擎的形式——无需代码修改或重新训练。

如今Xilinx随最新版Alveo U50数据中心加速器卡出厂预装Zebra，开箱即享GPU到FPGA无缝转换。Zebra已在Alveo U200和Alveo U250等其他Xilinx板卡上加速推理。

Xilinx最新版Alveo U50数据中心加速器卡现随Mipsology Zebra软件出厂，让GPU AI代码可在FPGA运行（图片：Xilinx）

Xilinx市场营销副总裁Ramine Roane表示：“Zebra在我们Alveo卡上提供的加速超越CPU和GPU。有了Zebra，Alveo U50满足AI负载的灵活性、性能、高吞吐、低延迟需求，成为任何部署的有力选择。”

即插即用FPGA

历史上FPGA被视为难编程，尤其对非专家。Mipsology愿景是让FPGA成为即插即用平台——同CPU/GPU一样简单。目标是用单行代码从传统加速器切换到FPGA。

Mipsology CEO Ludovic Larzul在接受EE Times采访时说：“Mipsology本质上是FPGA的CUDA。我们提供抽象FPGA的软件，让AI用户专注模型而非硬件。”

关键在于非专家也能完成迁移。无需深度AI专长或FPGA知识，模型无需重训练。

Larzul解释：“易用性至上。许多AI项目由无内部AI或FPGA专家的团队管理。他们可能在别处开发神经网络，模型训练完成后想部署而不重新设计。”

Zebra技术栈。技术跨越数据中心、边缘、嵌入式用例（图片：Mipsology）

为何不选Vitis？

Xilinx已有Vitis，面向数据科学家和开发者的全面FPGA工具链。为何还要与第三方合作？Larzul说答案简单：性能与简洁。

“我们做得更好，且做得正确。”他说。

Mipsology Zebra完全独立于Vitis、XDNN或Xilinx神经网络加速引擎。它运行在专用计算引擎上，原生支持客户现有卷积神经网络（CNN）模型。相比之下，XDNN虽有能力，但不适合自定义网络且集成繁琐。

“我们定位让FPGA正面对决GPU，在性能、成本、易用性三维匹敌。”Larzul补充。

Zebra技术栈详情。我们隐藏硬件复杂性，让FPGA成为从GPU/CPU无缝切换的平台（图片：Mipsology）

成本是许多客户核心驱动力。“他们想要不重新设计网络的前提下降低硬件成本，”Larzul说。“消除重训练和网络修改，降低非经常性工程成本。”

FPGA也提供更优可靠性。因占用更少硅面积、运行温度低于GPU，长期维护成本更低——数据中心运营商的重要考量。

Larzul强调：“总拥有成本不止板卡价格，还包括维持系统运行。”

Zebra旨在缩小性能差距。虽然FPGA通常TOPS低于其他加速器，但Zebra计算引擎最大化效率。“我们的FPGA每秒处理图像数超越TOPS高6倍的GPU，”Larzul声称。

如何实现？虽细节专有，Larzul指出Zebra避免剪枝（无重训练会降精度）和极端8位以下量化，保持模型保真度。

除主导图像/视频任务的CNN，Zebra也支持BERT（Google NLP模型，共享底层数学结构）。未来版本可能针对LSTM和RNN架构，虽面临额外挑战。

Zebra背后的团队

2015年成立，Mipsology在法国拥有约30名研发工程师，加州精简业务拓展团队。公司融资700万美元，含2019年法国政府创新竞赛200万美元奖金。

Mipsology核心人才源自EVE——2012年被Synopsys以ZeBu验证产品收购的ASIC仿真公司。EVE技术——利用数千互联FPGA复制ASIC行为——被全球主要ASIC厂商采用。

拥有12项专利申请，Mipsology与Xilinx紧密合作，兼容Western Digital SFF U.2、Advantech Vega-4001等第三方加速卡。

>> 本文原发于姊妹站EE Times。