用于脉冲神经网络的神经形态 AI 芯片首次亮相

Innatera，荷兰初创公司为脉冲神经网络制作神经形态 AI 加速器, 已经生产了第一批芯片，测量了它们的性能，并揭示了它们的架构细节。

Innatera 是一家为脉冲神经网络制造神经形态 AI 加速器的荷兰初创公司，它生产了第一批芯片，测量了它们的性能，并揭示了它们的架构细节。

该公司还宣布，Cadence 和 Synopsys 的联合创始人 Alberto Sangiovanni-Vincentelli 已加入公司，担任董事会主席。这位业内资深人士目前是加州大学伯克利分校的教授。

Innatera 芯片旨在加速尖峰神经网络 (SNN)，这是一种基于大脑生物学的神经形态 AI 算法，它使用电信号中尖峰的时间来执行模式识别任务。 SNN 在结构上与主流 AI 算法完全不同，因此需要专用硬件来加速，但它们通常为传感器边缘应用提供显着的功耗和延迟优势。

大多数其他致力于脉冲神经网络算法和硬件的公司（例如 Prophesee）都以图像和视频流为目标。 Innatera 决定专注于音频（声音和语音识别）、健康（生命体征监测）和雷达（用于消费者/物联网用例，例如保护隐私的老年人跌倒传感器）。

Marco Jacobs（图片来源：Innatera）

“这些传感器具有时间序列数据，而不是非常平行的图像，”Innatera 营销和业务发展副总裁 Marco Jacobs 在接受 EE Times 采访时说 . “我们的阵列特别擅长处理时间序列数据……这是一个很好的技术契合。此外，从市场的角度来看，我们在该领域看到了很多有趣的应用，但解决它的解决方案并不多。”

这三个应用的另一个共同点是，由于需要在传感器节点中进行处理，因此功率范围非常紧张。 Innatera 证实，在 Innatera 的测试中，每个尖峰事件（每个神经元响应输入数据而发射）所需的能量不到皮焦——实际上，在台积电 28nm 中不到 200 飞焦。这接近于生物神经元和突触使用的能量。根据 Innatera 的首席执行官 Sumeet Kumar 的说法，典型的音频关键字发现应用程序每次推理需要低于 500 个尖峰事件，从而导致“深亚毫瓦功耗”。在这种情况下，一起发射的神经元簇代表语音中的不同音素。

放电的神经元簇（此处为点组）代表语音中音素的检测。由于输入数据包含更多噪声，因此大部分都存在相同的簇，尽管它们更难发现（图片：Innatera）

处理架构

Innatera 的脉冲神经处理器使用脉冲神经元和突触的并行阵列来加速具有细粒度时间动态的连续时间 SNN。该设备是一种模拟/混合信号加速器，旨在利用 SNN 将时间概念融入数据处理方式的能力。

Innatera 的脉冲神经处理器包括一个大规模并行的神经突触阵列以及脉冲编码器和解码器（图片：Innatera）

Innatera 计算结构的关键方面之一是其可编程性，这有两个重要原因。

首先，将不同的 SNN 编程到芯片上。神经元需要以灵活的方式连接——大脑使用非常复杂的神经网络拓扑来高效地做事，这需要神经元之间的复杂连接，需要在硅片中重新创建。

Sumeet Kumar（图片来源：Innatera）

其次，优化性能。在 SNN 中，信息不是将信息表示为单词中的位，而是表示为精确定时的尖峰信号。需要在非常细粒度的级别上操纵尖峰的时间，以提取有关数据的见解。因此，神经元及其之间的连接（突触）需要表现出复杂的计时行为。这些行为可以通过 Innatera 的 SDK 进行调整以优化性能。

Innatera 将其芯片描述为模拟混合信号或“数字辅助模拟”。神经元和突触在模拟硅中实现，以保持超低功耗。模拟电子还允许连续时间网络（数字电子需要离散化）。这对 SNN 很重要，因为它们的性质意味着它们天生就有时间概念，并且需要能够在一段时间内保持特定状态。

“在模拟领域这样做要容易得多——你不必将保持状态的复杂性转移到网络拓扑中，”库马尔说。 “我们的计算元素自然会保留该状态信息。这就是我们在模拟领域做事的原因。”

Innatera 阵列中的一个计算段，其中的神经元经过精心设计。可编程突触排列在多级交叉结构中。 （这里的黑线/虚线代表输入和输出尖峰）（图片：Innatera）

芯片上的计算元件之间以及不同芯片之间的轻微制造不一致可能是在模拟域中准确实现神经网络的问题。 Innatera 的解决方案是将神经元分组为所谓的段，这些段经过精心设计以匹配路径长度和神经元数量。

段设计“基本上允许我们使用最好的模拟电路，同时最大限度地减少模拟电路中通常存在的这些非理想情况，”库马尔说。 “所有这些基本上都是为了确保一个片段内的神经元表现出确定性的行为，并且它们的功能与其直接相邻的神经元相似。”

当相同的训练网络被部署到现场设备时，不同芯片之间的不一致可能会导致问题。 Innatera 通过软件解决了这个问题。

“不匹配和可变性在 SDK 内部得到了处理，”Kumar 说。 “如果您是高级用户，我们可以向您公开其中的一些内容，但典型的程序员不需要为此烦恼。”

特定应用

Innatera 是代尔夫特理工大学的衍生公司，在进入硬件领域并在 2020 年底之前筹集了 500 万欧元（约合 600 万美元）的种子轮资金之前，已经在与收入客户合作开发其 SNN 算法。

“自我们实际创办公司以来，我们一直在与许多客户合作，这些合作仍在进行中——他们已经非常成熟，”库马尔说。 “我们希望能够在今年晚些时候与其中一些客户一起展示更多的演示。”

Kumar 表示，该公司将继续专注于计算解决方案公司，也就是说，他们将提供包括硬件和特定于应用程序的 SNN 算法在内的统包解决方案。

Innatera 的第一款芯片适用于音频、健康和雷达应用。该公司的路线图可能包括针对每个应用程序进一步优化的芯片。

“我们以这样一种方式构建了设备，以便我们可以加速各种尖峰神经网络，”库马尔说。 “[我们的芯片] 可以跨应用领域实现这些网络。但是随着我们深入领域，可能有必要优化硬件设计，这是我们将来会考虑的事情。目前，硬件并没有过度专注于任何特定类别的应用程序或任何风格的尖峰神经网络，其目的是在架构内部通常支持各种应用程序。”

初始芯片的样品有望在 2021 年底前提供。

>> 本文最初发表在我们的姊妹网站 EE次。

相关内容：

• AI 芯片面向低功耗边缘设备
• 工具链、传感器板增强 AI 芯片生态系统
• 新的 AI 加速模块增强了边缘性能
• 边缘人工智能：2021 年的发展趋势
• 如何在 MCU 上实现物联网 (AIoT)

有关 Embedded 的更多信息，请订阅 Embedded 的每周电子邮件通讯。