自动驾驶汽车应该杀死行人还是乘客？

我们正在进入一个时代，机器的任务不仅是将损坏降至最低，而且还要分发它们无法消除的损坏。损害的分布（以及机器创造的福祉）通常会产生权衡，其解决方案属于道德领域。

考虑这样一种情况，即自动驾驶汽车即将坠毁并且无法评估可以拯救所有人的路径。在这种情况下，车辆需要决定如何在道路上的不同人之间公平分配损坏风险。这些道德困境无法通过任何机器人学法律或人类伦理原则来解决。

2014 年，麻省理工学院的研究人员设计了一项名为“道德机器”的实验，以收集人类对配备人工智能的机器（例如自动驾驶汽车）做出的道德决策的看法。迄今为止，该实验已收到来自世界各地的超过 4000 万份回复。这为了解各种文化的集体道德优先事项提供了宝贵的见解。

道德机器测试了 13 种不同的场景，人们可以在这些场景中决定自动驾驶汽车的优先级：

研究人员分析了所有回答，揭示了人类道德如何因地理位置、经济和文化而异。

他们发现不同的国家有不同的偏好。例如，来自日本和中国等集体主义文化的人更有可能爱惜老年人而不是年轻人。而具有更多个人主义文化的国家则不太可能放过旧的。

参考：自然 | DOI:10.1038/s41586-018-0637-6 |道德机器

同样，来自美国和英国等个人主义文化的人，如果有其他选择，往往会挽救更多生命。相对于合法横穿马路的行人，来自制度较弱的发展中国家的人更能容忍乱穿马路的行人。

东方国家（日本、台湾、沙特阿拉伯、印度尼西亚）对保留较高地位人物的偏好要低得多，而南方国家（中美洲和南美洲、法国）的偏好要高得多。

与南方国家相比，西方和东方国家更倾向于保护人类而不是宠物。

尽管样本量很大，但该研究仍有许多局限性。例如，研究人员没有考虑角色命运的不确定性。所有角色100%确定为儿童和成人，100%确定其生死结局。

他们也没有介绍受访者和角色之间的假设关系因素（例如，配偶和亲戚）。尽管这些假设非常不切实际，但它们对于保持实验的可控性是必要的。

阅读：自动驾驶车辆很难检测到深色皮肤的行人

我们可能无法达成普遍一致，但科技公司和汽车制造商可以使用这些结果来更好地了解公众对不同设计和政策决策的道德反应。

工业技术