亿迅智能制造网
工业4.0先进制造技术信息网站!
首页 | 制造技术 | 制造设备 | 工业物联网 | 工业材料 | 设备保养维修 | 工业编程 |
home  MfgRobots >> 亿迅智能制造网 >  >> Manufacturing Technology >> 工业技术

自动驾驶汽车难识别深肤色行人:训练数据偏见的严重后果

佐治亚理工学院研究发现,自动驾驶系统的目标检测算法对深肤色行人的检测准确率平均低5%。根因在于训练数据集以白人图像为主,缺乏种族多样性,导致算法对深肤色样本学习不足。

不同人群的错误率差异

团队分析了大量行人图像数据集,按肤色分组测试最先进的目标检测模型。结果显示,即使调整遮挡视角、拍摄时间等关键参数,对深肤色群体的检测准确率仍持续低5%。研究虽基于公开数据集的研究型模型,未涉及商用自动驾驶系统,但揭示了真实存在的缺陷与风险。

偏见算法的成因

这不是首例偏见算法报告。去年研究发现微软、IBM、旷视三大科技公司的人脸识别系统更易误判深肤色人群性别。AI模型特别是深度学习算法从训练数据学习,数据缺乏多样性会导致现实部署失效。自动驾驶算法多在以白人为主的数据集上训练,且未充分重视有限的深肤色样本学习。

改进方向

研究者建议在训练中纳入种族多样化样本,并加大对少数群体样本的权重。这能显著提升模型在真实世界中的公平性与鲁棒性,避免技术加剧社会不平等。

工业技术

  1. 协作机器人助力 Donnelly Custom Manufacturing 优化人机平衡
  2. 工业4.0:真正的革命在于商业模式创新
  3. 轻松找回并保护Wi-Fi网络安全密钥:完整指南
  4. AI盲点检测模型助力自动驾驶安全:人类反馈弥补仿真与现实差距
  5. AI预测行人动作护航自动驾驶:基于生物力学的循环神经网络
  6. AI揭示吸烟加速生物衰老:男性1.5倍、女性2倍于实际年龄
  7. AI从电子病历识别酗酒患者准确率78%:NLP突破筛查瓶颈
  8. 硬盘隐秘变身窃听麦克风:声波攻击新型间谍威胁
  9. AI突破:GPU加速工具从X光片秒级筛查新冠肺炎
  10. 印制电路板如何驱动现代汽车电子化
  11. 自动驾驶攻克窄路博弈:基于多智能体强化学习的协商算法
  12. 英特尔雄心:年内在全球部署100辆自动驾驶汽车