利用未标注数据挖掘AI价值:Hologram如何压力测试自动驾驶感知
数据是自动驾驶(AV)开发的命脉,驱动赋能自驾系统的深度学习模型。
为保持竞争力,AV厂商在公共道路记录数百万里程,存储PB级原始影像。例如Waymo已超1000万真实里程和100亿模拟里程记录数据。
然而业界极少追问关键问题:这庞大档案中实际有多少被标注,标注准确度如何?
Edge Case Research联合创始人兼CTO Phil Koopman在近期EE Times访谈警告:"没人负担得起标注所有数据。"
数据标注既耗时又昂贵
标注要求专家人工审查短视频片段,为自动驾驶算法相关的每个车辆、行人、标志、红绿灯绘制边界框。过程繁琐昂贵。
Medium文章"数据标注:AI突破背后的十亿美元生意"凸显托管标注服务崛起,交付领域特定高质量数据集。文中提及一些自动驾驶初创公司每月支付这些公司高达数百万美元。
IEEE Spectrum报道Drive.ai联合创始人兼总裁Carol Reiley称:"成千上万人给物体画框。每小时驾驶需约800人工小时标注。"这些团队难跟上数据涌入。
Drive.ai等公司探索基于深度学习的标注助手加速繁琐标注过程。
利用未标注数据
Koopman认为有替代标注PB级影像的方案:利用数据本身。Edge Case Research开发"Hologram",一种AI感知压力测试和风险分析系统,旨在无详尽标注加速感知软件开发。
Hologram对同一未标注影像处理两次。首次通过基线感知引擎运行。再次用细微噪声扰动重处理片段,创建"压力"场景。噪声暴露AI决策边界隐藏弱点。
人类看模糊物体可能犹豫,AI可能完全漏检或误分类。通过揭示此类失效,Hologram帮助开发者精准定位触发误行为的确切条件。
因系统运行于未标注数据,绕过标注瓶颈同时仍提供可行洞见。Hologram用色标标记问题场景:橙色指示建议重训练的近失误,红色标记完全失效邀请深入调查触发因素如背景噪声或低对比度。
Koopman强调Hologram的"秘方"——先进工程和专有算法——使其仅浮现最关键异常,让人工审查效率大增。
他也警示Hologram使用的公开数据集限研究社区,应与生成数据的相同感知引擎配对才有意义分析。
可视化Hologram影响

Hologram引擎高亮感知系统漏检停车标志的位置,揭示嘈杂背景等触发条件。(来源:Edge Case Research)
Hologram界面用橙色条标记近失误提示重训练,红色条标记完全检测失败,让设计师追溯如靠近路灯杆或低对比度等成因。
Hologram帮助AV设计师发现感知软件行为异常的边缘案例,潜在危及安全。(来源:Edge Case Research)
与Ansys战略合作
Ansys近期宣布与Edge Case Research合作,将Hologram嵌入其仿真平台。目标构建行业首个自动驾驶开发综合仿真管线。Ansys也与宝马合作,后者目标2021年交付首款AV。

ANSYS与宝马创建自动驾驶仿真工具链。(来源:Ansys)
—— Junko Yoshida,AspenCore Media全球联合主编、《EE Times》首席国际记者
>> 本文最初发表于姊妹站EE Times:"利用未标注数据看AI是否在造假。"
物联网技术