边缘和端点 AI 与云相遇的地方

COVID-19 大流行创造了新的健康和安全要求，改变了人们与彼此及其直接环境的互动方式。对非接触式体验的需求激增，反过来又加速了向人工智能驱动的系统和基于语音的控制以及其他非接触式用户界面的转变——推动智能越来越接近端点。

当今电子行业最重要的趋势之一是将 AI 融入嵌入式设备，特别是 AI 解释传感器数据（例如图像）和机器学习以获取替代用户界面（例如语音）。

嵌入式物联网 (AIoT) 是解锁无缝、免提体验的关键，这将有助于确保用户在 Covid 后环境中的安全。考虑以下可能性：智能购物车可让您在将商品放入购物车时对其进行扫描并使用移动支付绕过结账柜台，或者智能视频会议系统可在会议期间自动识别并切换焦点在不同的发言者上以提供为远程团队提供更多“面对面”体验。

为什么现在是嵌入式 AIoT 突破的时候？

AIoT 正在走出去

最初，人工智能坐在云端，利用边缘和端点无法匹配的计算能力、内存和存储可扩展性级别。然而，我们越来越多地看到，不仅机器学习训练算法走向网络边缘，而且从深度学习训练转向深度学习推理。

“训练”通常位于网络核心，而“推理”现在位于端点，开发人员可以实时访问 AI 分析，然后优化设备性能，而不是筛选设备到云到设备的循环。

今天，大部分推理过程都在 CPU 级别运行。然而，这正在转向在芯片上集成更多 AI 加速的芯片架构。高效的 AI 推理需要能够实时推理、预处理和过滤数据的高效端点。在芯片级嵌入 AI，集成神经处理和硬件加速器，并将嵌入式 AI 芯片与专为深度学习设计的专用处理器配对，为开发人员提供三重性能、带宽和实时响应能力，以实现下一步生成连接系统。

图 1（来源：瑞萨电子）

AIoT 未来：在家和工作场所

此外，围绕 AI 加速器、自适应和预测控制以及语音和视觉硬件和软件的进步融合为各种智能设备开辟了新的用户界面功能。

例如，语音激活正迅速成为工业和消费市场始终在线连接系统的首选用户界面。我们已经看到基于语音控制的系统为导航视觉或其他身体残疾的用户提供的可访问性优势，使用语音命令来激活和完成任务。随着厨房、工作区和工厂车间等共享空间对非接触式控制作为健康和安全对策的需求不断增长，语音识别与各种无线连接选项相结合，将为家庭和工作场所带来无缝、非接触式体验.

多模式架构为 AIoT 提供了另一条途径。使用多个输入信息流可以提高基于 AI 的系统的安全性和易用性。例如，语音+视觉处理组合特别适合基于人工智能的免提视觉系统。语音识别为智能监控或免提视频会议系统等应用程序的关键视觉任务激活对象和面部识别。视觉 AI 识别随后会介入以跟踪操作员行为、控制操作或管理错误或风险检测。

在工厂和仓库楼层，多模态人工智能为协作机器人（或 CoBots）提供动力，作为技术分组的一部分，作为五种感官的一部分，使 CoBots 能够与人类同行并肩安全地执行任务。语音+手势识别让两组人可以在共享的工作空间中进行交流。

地平线上有什么？

据 IDC Research 称，到 2025 年，全球将有 550 亿台连接设备产生 73 泽字节的数据，随着深度学习推理继续转移到边缘和设备端点，边缘 AI 芯片将超过云 AI 芯片。这种集成的人工智能将成为支持“感知”技术的复杂组合的基础，以创建具有更自然、“类人”通信和交互的智能应用程序。

Sailesh Chittipeddi 博士是瑞萨电子物联网和基础设施业务部的执行副总裁兼总经理。