利用AI与ML释放可执行边缘洞察

如果数据始于边缘，为何我们不能从AI角度在边缘尽可能多地处理？

边缘设备和应用爆发式增长要求重新思考数据分析位置和方式、洞察获取方式。新边缘计算选项与许多用例对洞察速度更高要求，推高AI和机器学习(ML)在边缘应用中的使用。

AI和ML应用在边缘、数据中心还是云设施，是个复杂问题。为洞察当前策略和最佳实践，我们近期采访了Dell Technologies全球CTO办公室AI/ML与边缘首席架构师Said Tabet，以及新兴技术解决方案CTO Calvin Smith。

我们讨论了AI/ML为当今海量边缘数据赋予意义的增长需求、边缘应用中AI/ML的算力需求、以及此类计算应在边缘还是数据中心/云设施进行。

新兴趋势

RTInsights: 当前有哪些新兴趋势，AI和ML如何融入边缘讨论？

Tabet: 如今谈新兴趋势常提边缘、物联网、AI/ML、AR、VR、区块链、5G等。我们将边缘定位为这些技术发展的下一步——不只是趋势，而是真正采纳。从数据和用户体验角度，需洞察，加上人类不耐烦与现实延迟问题，需尽快获取洞察。还有：如果数据始于边缘，为何不能从AI角度在边缘尽可能多做？

显然AI、特别是ML在数据量上贪婪。需快速学习。我们真能在边缘做什么？讨论从此开始。区块链或分布式账本是其他考量领域。通常需要极大信任，特别是数据层面。还需信任我们生成的洞察、反应方式、由此产出的可执行项。这引入安全、隐私、治理等额外需求。无论你是业务人员、个人还是车队，都需在该体验中考量所有这些。

Smith: 粗略估算当今连接物联网设备在200-300亿之间。回溯，Said，大约2014年连接移动设备数超世界人口，对吧？2017年物联网设备也超全球人口。

Tabet: 是的，没错。

Smith: 巨大跃升，还将继续跃升。你要雇270亿人出去维护这些边缘设备？然后向上通过基础设施栈，显然非1:1映射，但物理上不可能雇够足够DBA、数据科学家、架构师、工程师。取而代之的是在边缘驱动自动化和优化。正是数据海量，且如Tabet博士所述，应用和功能（特别是AI）的贪婪性。你需要处理大量信息，原因多样，一是成本。你想在边缘分析什么是真正有价值的数据，再开始发送到数据中心或云端。

边缘中AI/ML的角色

RTInsights: 谈论边缘时为何需要AI/ML？

Tabet: 有几个原因。第一是为什么。从自动化角度，AI和ML是自动化更多、更有纪律地自动化的方式，且在边缘做。你今天看到这点。需通过云到边缘连续体视角强制执行，包括数据平面、控制平面、开发套件等，让开发者感觉写边缘代码如同写云代码。

从AI角度，自动化是大事。在边缘通常不做真正深度处理（即深度学习DL），至少通常不。另一个重要方面是：你在边缘快速获得的洞察，往往不同于你带到数据中心或云、与其他信息连接后获得的洞察。此时你损失大量智能动量，指洞察或边缘决策。尽管如此，边缘确实需要AI。两者相辅相成。

Smith: 另一个原因是商业层面。所有这些“事物、传感器、执行器、设备”，大到连接家庭、邮轮、汽车；小到工厂、拖拉机、水泵内或上。长话短说，所有行业现在都商品化了，对吧？全球到处都有建造和购买选项。企业试图通过与产品资产关联的服务来差异化。你能衍生的价值越多，许多公司正从产品转向服务。称产品即服务转型。

他们试图将资产作为服务销售。有时是商业模式转换，从CapEx转OpEx。有时仍只按CapEx销售，但可能销售额外服务组合，或仅用智能连接产品作为差异化。再次如Said所述，优化、自动化、在正确时间正确地点拉取正确数据，使公司能竞争。单纯制造物品不再总能创造价值。

Tabet: 还想补充一点：在边缘，若我们看单一企业或组织的数万或数十万设备，无论自动驾驶，你把车看作实例，每辆车在不同环境下表现可能不同。从中学习在汇总时非常重要。工业自动化同理。可看风力涡轮机、飞机引擎、医疗。在许多不同环境中，当你将信息带回数据中心或云时，AI模块或算法拥有更精准、高效、更好性能。换句话说，虽然单一资产数据肯定有价值，但从不同环境中连接资产群及其交互中，你开始获得真正洞察。

决定边缘AI/ML计算位置

RTInsights: 边缘应用的AI/ML计算工作在哪里做？

Tabet: 回到前点：许多情况下AI算法需要大量数据训练。你在数据中心或云、中心化环境做（有分歧），那里有高性能算力。在边缘部署这些算法，它们可更高效用于边缘影响目的。显然有谈论，未来某时我们也能在边缘做一定程度训练。起初将因大多数边缘环境重约束而受限。

边缘计算考量

RTInsights: 边缘计算解决方案有何要求？

Tabet: 这很棘手，因为边缘定义不同。问汽车制造商，我车是边缘。问涡轮机制造商，风机是他们边缘。工厂制造设备也是边缘。环境不同。有些非常恶劣。Dell在可能包含强振动、极高极低温度等恶劣条件的计算环境经验丰富。我要说边缘计算解决方案的第一要求是功耗。必须低功耗。这与我们所知特别是HPC背道而驰？你用大量GPU，有热量，需电力。这在边缘环境不可能。我们得把计算组件带到另一形态，或可能用不同类型加速器，如未来几年将出现的新一代AI专用加速器。

Smith: 酷且有趣的是我们持续能以强固方式在恶劣环境工作，如负5度、有时负10摄氏度到55摄氏度以上。如Tabet博士所述，危险或恶劣环境需防振动、冲击等。然而我们持续让形态更小更小。显然靠合作伙伴和芯片开发者帮助。

有趣的是让形态更小更强固，同时让操作使用尽可能简单。从应用角度，不一定是云在边缘执行，虽然那也可能。更多是将云原生原则带到边缘。将容器或VM移植到不同基础设施、不同环境的简易性，并拥有单一视图。那也可能实现多云环境。边缘可成新控制点、新单一视图可见性，桥接OT（运营技术）侧和IT侧。这很迷人。是探索新边疆，驱动未来产品路线图大部分。

边缘AI/ML用例

RTInsights: 能否给出一些AI/ML边缘应用例子？

Tabet: 我几年在做一个关于移动应用挑战（如自动驾驶车辆）的项目。与多个组织和客户直接合作，探索如何为该市场带来不同能力。我稍作抽象并给出也可促进此类边缘部署的例子。边缘用例包括我们称RSU、路侧单元、车辆本身、或其传感。有些例子是我们称HD地图、高清地图的扩展版，地图语义丰富、上下文驱动、近实时更新。

这是AI用于减少数据传输量和成本的一个例子。你只处理那些特定服务所需数据。例如视频可减量。可减少数据量。可聚焦想检测的特定物体。那些是该层面能帮助的例子。

其他例子关联边缘设备健康，监控特定设备、引擎、整车等，尝试在车辆或设备层面做尽可能多分析，特别是安全原因（即许多物联网用例中的基于状态的监测）。

零售领域也有其他例子，但方式不同。你有从边缘到云到数据中心的连接，在我们称边缘云的地方，尽可能在边缘做。[边缘是]你收集数据并做所有所需分析的地方。你为最终用户提供更好体验，如零售。你试图个性化体验以最小化成本、优化服务。

当前特别是我们所处情况，有许多医疗相关案例。我们能在边缘收集多少数据并尽快反应？通常我们谈论数十万或百万设备规模的分布式环境，如Calvin所说。这是AI和ML能发挥更大作用的领域。我们一直谈数据变化，有AI能力，一些应用会自我适应。学习持续，训练在该层面持续。

在所有这些领域——医疗、零售、自动驾驶、一般移动、许多其他领域——你通过预测或状态维护降低成本。边缘也给你远程控制设备能力，所以专家若不能安全去数据采集现场，实际可远程提供该能力，甚至包含AR/VR。但你也在边缘提前做大部分工作，以最小化他们必要时的亲临。仅举几例。

Smith: 我再加两个重要的。一是我们在安全和安保周围有大业务。如Said提到，你可能运行超大算法、处理数据用于……举个例子。设想场景：加油站外公共场所枪击。你需要做大量自动化即时决策确定行动方案。一是从音频角度枪声识别，但关联计算机视觉物体识别，真正表明是武器而非汽车回火。

若有作案者逃跑，也可在边缘执行现在相当简单的算法，但可能起源于数据中心，用于车牌识别。然后识别逃犯车牌。全自动边缘执行。那领域有大量涉及摄像头、监控、安全、公民一般安全的用例。

另一大用例领域，我们不提就失职，是智能设施深度学习，这是工业互联网联盟测试床，我们很早前与东芝启动。以来也加入SAS和Wipro，不同公司带来不同价值。

最初概念建造最先进设施。如果没错，建于2011年，已有多少传感器，Said？像2万？

Tabet: 不止，我估计建于2011年时约3.5万。

Smith: 3.5万，对。全新最先进设施，但设计者想突破极限学习做更多。通过连接参数服务器的一系列服务器实现神经网络，让建筑本质上与关键系统关联自我学习。谈论电梯、扶梯、当然高成本HVAC系统。初衷至少做异常检测，寻找人（无AI）难发现的事物间相关性。

例如，厨房发生一些非常迷人的发现。数据确定那些发生实际增加成本，并因那些行动，特定通风段被关闭。当数据而非人类调查时，你能发现的东西令人难以置信。我们谈真正深度神经网络，自我学习——教自己找什么，寻找人类通常不会自己确定的交叉相关性。当你真正思考，所有这些都在“边缘”。全在建筑内执行。然后一些核心处理当然在数据中心后台。

Tabet: 一个较近期项目用例，我们增加许多设备，类似所有处理HVAC和建筑内其他事物的资产。每个配备自己的ML算法或AI算法，允许它们自我维持，同时相互学习。回到Calvin故事，这以某种方式完成，我们将看到更多此类自主AI（若可用该术语）。真正想法是我们不喂方向，但随时间它将自我调平、自我学习其参数和所需生产力优化。