自动驾驶汽车该牺牲行人还是乘客？
我们进入机器不仅最小化损害、还须分配无法消除损害的时代。损害分配（及机器创造的福祉）通常产生权衡，属道德领域。考虑自动驾驶车即将撞毁无法评估全员生还路径情况。车辆需决定如何在不同道路人员间公平分配损害风险。机器人定律或人类伦理原则无法解决这些道德困境。2014年MIT研究者设计“道德机器”实验，收集人类对AI机器（如自动驾驶车）道德决策视角。迄今收集全球超4000万回复，提供各文化集体伦理优先级宝贵洞见。道德机器测试13场景让人决定自动驾驶车优先级：多命优于少命、男性优于女性、人优于宠物、年轻优于年老、高社会地位优于低、健康优于不健康、守法者优于违法者。研究者分析所有回复，揭示人类伦理随地理位置、经济、文化差异。发现不同国家偏好不同。如集体主义文化（日本、中国）更倾向保老不保幼。个人主义文化国家（美国、英国）倾向在所有其他选择下保更多命。制度较弱发展中国家对闯红灯行人更宽容。东方国家（日本、台湾、沙特、印尼）保高地位角色偏好不明显，南方国家（中南美、法国）偏好高。西方和东方国家保人优于宠物偏好远高于南方国家。
局限性
尽管样本量大，研究有诸多局限。如未考虑角色命运不确定性。所有角色被100%确定为儿童/成人，生死结局100%确定估计。未引入假设关系因素（如配偶、亲属）在受访者与角色间。虽假设不切实际，但为保实验可处理所必需。可能无法达成普世共识，但结果可供科技公司和车企更好理解公众对不同设计和政策决策伦理的反应。
参考文献：Nature | DOI:10.1038/s41586-018-0637-6 | Moral Machine
延伸阅读：自动驾驶汽车难检测深色皮肤行人
工业技术