如果一辆无人驾驶车被设定为倾向于杀死本车乘客，你还愿意坐这辆车吗？
近日，意大利博洛尼亚大学的团队开发了一个名为“道德表盘”的装置，可以让无人车的车主选择自己的汽车道德设置：你可以设定为牺牲自己保全他人，也可以设定为自己的生命优先。
无人车如何应对道德困境，这是无人驾驶面临的主要问题之一。当人类驾驶汽车时，本能就是对我们对危险的反应。当致命的事故发生时，通常不会有什么责任纠纷。
但如果汽车要自动驾驶，汽车就不能依赖司机的本能，而必须依靠代码。这时候就很糟糕了。是谁应该为事故负责呢？软件工程师、制造商还是车主？
人们对这个问题的态度也很复杂。2015年的一项研究发现，大多数人认为无人驾驶的汽车应该是功利主义的，应该尽量减少总体危害的数量，这可能意味着在某些情况下牺牲自己的乘客。但是，虽然人们原则上同意这一点，但他们也表示，他们决不会乘坐准备杀死他们的汽车。
“充分利他”
意大利博洛尼亚大学的Guiseppe Contissa博士说：“我们想探讨，如果将控制权和汽车行为的责任归咎于车主，会发生什么事情。他同时也提出了一个解决方案。
该团队设计了一个表盘，可以将汽车设置为从“完全利他主义”到“完全自我主义”中的任意道德维度，表盘的最中间则是“完全中立”。他们认为，这种的道德手段不仅适用于无人车，也适用于自动化程度越来越高的所有领域。
Contissa说：“这个旋钮可以让无人车拥有车主本人的道德判断。汽车将利用这些信息来计算它将执行的行动，充分考虑事故发生时乘客或他人受到伤害的可能性。”
公地悲剧
但这个想法有问题。麻省理工学院媒体实验室的首席研究员埃德蒙·阿瓦德（Edmond Awad）说：“如果人们对汽车所造成的相对风险进行过多的控制，我们可能会遇到公地悲剧(Tragedy of the commons)，即每个人都选择极端的自我保护模式。
另一个担心是人们可能不愿承担道德责任，因此根本不会有人愿意动那个表盘。如果每个人都选择“完全中立”，道德表盘就不会对现有的困境有所帮助。
Awad说：“现在判定这个方案是好是坏还为时太早。”但他表示，新的想法总是好的。
期刊参考：Artificial Intelligence and Law
