边缘AI势头增强：AWS与微软展示一体化推理与管理方案
在边缘设备直接部署AI可提供即时响应，降低向云端发送大数据流成本。近期硬件进步——专用ML加速器、强大微控制器、精炼模型——在严苛功耗预算下实现更丰富推理。即便如此，全本地流水线仍受益于云端设备管理、持续模型训练和安全更新机制。
AWS IoT
Embedded World Digital 2021上，AWS与微软展示其生态如何支撑边缘AI。AWS首席专家解决方案架构师Rajeev Muralidhar解释，在设备运行TensorFlow Lite或其他ML模型是一项能力，真正优势在于安全、大规模管理整个设备生命周期。他强调推出固件和模型升级的重要性，保持车队最新且安全。
AWS通过AWS IoT平台交付此能力，由三大核心组件构成：设备端软件（FreeRTOS或AWS Greengrass）、控制连接服务（AWS IoT Core）、分析和事件驱动服务。
AWS通过其IoT平台为边缘AI设备提供全面支持（图片：AWS）
FreeRTOS是面向微控制器的开源操作系统，获两年长期支持（LTS）计划保障，保证安全补丁、功能升级和漏洞修复。其OTA更新框架让运营商安全、大规模推送固件变更至数千设备。FreeRTOS内核可直接与运行AWS Greengrass的网关通信，在本地推理与云服务间架起无缝桥梁。
AWS IoT Core作为数据流入云端的入口。提供可对接收数据强制执行规则的消息代理——存储、路由至数据库、或发送至SageMaker等分析工具进行机器学习。平台还提供车队管理工具、设备管理能力、事件驱动自动化，跨大规模物联网端点检测异常并触发响应。
Muralidhar强调，大规模运行时安全的端到端设备生命周期管理至关重要。轮换安全凭证、应用操作系统更新不损害车队完整性，是维护可信生态的关键。
他设想持续循环：数据发送云端用于模型优化，随后更新、更精准的模型拉回设备。"这样，运行在您车辆或车间的设备能力更强、反应更快更准确，"他说。
Azure Percept
微软Azure Percept是软硬件结合平台，旨在让无深度专业化的开发者也能触达边缘AI。系统利用Azure云服务进行设备管理、模型开发和分析，同时提供内尖端AI加速器的预制硬件模块。
微软Azure Percept平台结合硬件模块——含可信平台模块、音频模块、视觉模块——与Azure云端服务（图片：微软）
当前硬件开发套件含Azure Percept Vision模块，采用Intel Movidius Myriad X加速器处理计算机视觉负载，及Azure Percept Audio模块，细节待公布。视觉模块旨在简化边缘AI模型训练、部署和管理。
微软也将平台绑定Azure IoT Hub，确保设备与云间安全双向通信。未来计划扩展第三方Percept认证设备范围，让开发者将开发套件方案移植至量产就绪硬件。
>> 本文最初发表于姊妹网站EE Times Europe。
物联网技术