边缘 AI 仍然主要是消费者,而不是企业,市场
数据驱动的体验是丰富的、身临其境的和即时。但它们也是延迟不容忍的数据猪。
想想无人机送披萨、可以记录十字路口交通事故的摄像机、可以识别潜在系统故障的货运卡车。
这些类型的快速行动需要大量数据——快速。因此,当数据进出云时,他们无法承受延迟。来回的时间太长了。相反,许多这些数据密集型流程必须保持本地化并在边缘和硬件设备上或附近进行处理。
“当 AI [人工智能] 算法预测即将发生碰撞时,自动驾驶汽车甚至不能等待十分之一秒来激活紧急制动,”西北大学教授 Mohanbir Sawhney 在“为什么苹果和微软正在走向边缘”中写道。 “在这些情况下,人工智能必须位于边缘,在那里可以更快地做出决策,而无需依赖网络连接,也无需在网络上来回移动大量数据。”
研究公司 Omdia 的研究主管 Aditya Kaul 表示:“AI 边缘处理器允许你在 [设备] 本身上进行处理,或者将数据送入后台的服务器,而不是在云端进行处理。” .
边缘人工智能:企业与消费者采用
近年来,人工智能芯片执行机器学习推理等任务的能力急剧扩大。考虑图形处理单元 (GPU),它提供超过 10 teraflops 的性能,相当于每秒 10 万亿次浮点计算。现代智能手机拥有每秒可处理十亿次浮点运算的 GPU。即使在几年前,这种设备上的处理也不可用。但今天,边缘设备——智能手机、相机、无人机——可以处理人工智能工作负载。
只有随着深度学习芯片组(或包括 GPU 和其他芯片在内的支持人工智能的芯片)的出现,这才成为可能。 AI芯片组市场如火箭般起飞。
“从几年前的基本零开始,[边缘人工智能芯片] 到 2020 年的‘新’收入将超过 25 亿美元,未来几年的增长率将达到 20%,”德勤报告“将人工智能带到装置。” [参见上述德勤报告中的“边缘 AI 行业蓄势待发”图。]
根据 Tractica 报告“深度学习芯片组”,到 2025 年,人工智能芯片组市场预计将达到 726 亿美元。
据专家介绍,消费市场已经铺平了道路。今天,到 2020 年,就销售数量和美元价值而言,消费类设备市场可能占边缘 AI 芯片市场的 90%。
“智能手机市场处于领先地位,”分析公司 Tractica 的高级主管 Aditya Kaul 表示,该公司最近发布了“深度学习芯片组”报告。智能手机仍占 AI 芯片组市场约 40%-50% 的份额。
但是,考尔说,边缘的人工智能处理正在进入企业,在工业物联网和零售以及医疗保健和制造等领域。 “你可以称之为‘企业级 AI 边缘’,”Kaul 说。
Kaul 说,企业在边缘采用 AI 的动力是“用例的清晰性”。例如,机器视觉可以实现产品检测和过程控制的自动化,可以提高工业车间等领域以前手动过程的质量和效率。
“人们开始[在工业环境中]使用深度学习来识别汽车行业的故障,例如:他们可以在组装过程中发现车门、把手或玻璃的缺陷。在食品和饮料行业,他们可以识别不新鲜的西红柿,或者饼干工厂可以识别形状不正确的饼干,”考尔说。
然而,除了质量控制之外,各行业也在使用机器视觉来推广新体验。 “零售业是一个庞大的行业,我们看到其中一些发生,”考尔说。这是企业级优势,并在超市使用摄像头进行购物者分析。他们在哪里闲逛,看某些产品?
边缘人工智能与云计算协同工作
在软件为王的几年之后,边缘人工智能重新激发了人们对硬件的兴趣。
但边缘的 AI 就是要带来低延迟和分布式硬件,可以在没有云帮助的情况下进行处理。
“随着人工智能的发展,硬件再次流行起来,经过多年软件吸引了最多的企业和投资者的兴趣,”麦肯锡报告“人工智能:现在是行动的时候了。”
硬件也让分散式计算架构重新流行起来,其中集中式架构涉及延迟和数据安全问题。
Kaul 说:“您希望立即做出决定,而不是依赖云的延迟。” “而且,您不希望第三方云中的数据。从安全角度来看,数据应该保留在本地。”
最终,专家建议边缘人工智能将成为现有云计算架构的补充架构。
“云中的人工智能可以与边缘的人工智能协同工作,”Sawhney 写道。 “考虑像特斯拉这样的人工智能汽车。边缘的 AI 实时为无数决策提供支持,例如制动、转向和变道。晚上,当汽车停好并连接到 Wi-Fi 网络时,数据会上传到云端以进一步训练算法。”
边缘人工智能持续增长的预期
AI 边缘芯片市场的大部分增长归功于硬件本身能力的提高。但它也涉及行业如何处理人工智能的运营变化。
事实上,虽然工业制造等传统行业以前对将人工智能融入流程持谨慎态度,但他们现在认为边缘人工智能是有益的——实际上,这是投资回报率的关键。因此,他们将大数据分析引入他们的流程,训练算法以提高这些流程的准确性,并在质量控制中查看结果。
“让这些模型准确的唯一方法是用正确的数据训练它们,”考尔说。 “两年前,你不会在这些领域发现很多人,如果你问他们关于训练数据的问题,他们可能会用奇怪的方式看你。但现在更多的人了解人工智能的工作原理,”他说。
Tractica 预测,这种增长将继续下去,并且“在 2021-2022 年将出现一个拐点,”考尔说,“快速转向 AI 加速器、ASIC 芯片”。
不过,Kaul 强调,预计增长将得到衡量。
“在创新方面,很多这些供应商和市场都停滞不前,”考尔说。 “在过去的 20、30 年里,没有太多创新。所以他们通常行动缓慢。但在某些领域,情况正在好转——工业视觉、医疗视觉和零售。现在还早。但事情开始好转,”他说。
物联网技术