超低功耗系统将 AI 的希望寄托在 TinyML
加利福尼亚州桑尼维尔——近 200 名工程师和研究人员聚集在这里讨论组建一个社区，以在超低功耗系统中培养深度学习，他们称之为 TinyML。在演示和对话中，他们公开努力在技术发展最快的领域的一个仍然不成熟的分支上努力，希望能够实现一类新的系统。
“不乏很棒的想法，”Arm 机器学习研究员伊恩·布拉特 (Ian Bratt) 开始讨论。
“四年前，事情变得很无聊，然后机器学习出现了新的浮点格式和压缩技术——就像再次年轻一样。但是，在实际系统中使用这些想法来赚钱的方法非常缺乏，”布拉特说。
“软件生态系统完全是一个狂野的西部。它是如此分散，而且亚马逊、谷歌、Facebook 和其他公司都在推动他们的框架，这有点抢夺地盘……那么硬件工程师如何才能得到许多人可以使用的东西，”他问道。
STMicroelectronics 的一位工程师表示同意。
“我刚刚意识到至少有四个用于 AI 的编译器，传统的嵌入式设计人员不会使用新芯片。因此，我们需要稳定软件接口并投资于互操作性——标准委员会应该致力于通用接口，”STM 工程师建议。
TinyML 小组的联合主席兼谷歌 TensorFlow Lite（一个针对移动和嵌入式环境的框架）的技术负责人 Pete Warden 说，现在制定软件标准可能还为时过早。
“我们责怪不断改变操作和架构的研究人员。他们仍在探索有关权重、压缩、格式和量化的内容。语义不断变化，我们必须跟上它们，”Warden 说。
“在接下来的几年里，不运行通用计算来处理新操作或激活函数的加速器没有未来，因为从现在起两年后，人们很可能会带来不同的操作，”他补充道。
一位微软人工智能研究人员表示同意。 “我们离我们认为应该达到的目标还很远，而且我们不会在一两年内到达那里。这就是微软投资 FPGA 以加速其 Azure 云服务的原因。 “我们需要构建正确的抽象层以实现硬件创新……如果有开源硬件加速器，它可能会有所帮助，”他补充道。
“也许合规标准是第一步，因此研究在边缘获得与在云中相同的体验，”Arm 的 Bratt 建议。
“无论你生活在哪个级别，我们都需要强大的功能规范。如果我们拥有足够多的级别，它将为人们提供进入其他层的切入点，而这个小组是解决定义它们的最佳人选，”Naveen Verma 说，普林斯顿大学教授，主要研究内存中的人工智能处理器。
物联网技术