自动驾驶伦理难题：小孩和老人，你让机器怎么选？| 老刘che白话

Posted 2021-04-27 查违章

在威尔·史密斯主演的科幻电影《我，机器人》中，

描述了当人工智能非常强大之后，人类可能面临来自机器的威胁，

其中有一个细节让人印象深刻，这就是作为机器人行为准则的《机器人的三大法则》

第一条就是，

机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。

人类希望机器为人类服务，而不是拥有自主的意识，做出违背道德的事情

对于可能来自机器的威胁，人类是很警惕的。

目前，人工智能还远没有强大到威胁人类生命的地步，

但随着机器人越来越广泛被使用，

已经有人意识到，是时候给人工智能制定一套伦理规则了。

据外媒报道，德国政府推出关于自动驾驶技术的首套道德伦理标准，

该准则将会让自动驾驶车辆针对事故场景作出优先级的判断，并加入到系统的自我学习中，

例如人类的安全始终优先于动物以及其他财产等。

消息称，德国交通部长近日向德国内阁提交了一份报告，

希望将该份道德伦理标准编入目前自动驾驶软件的开发上。

该报告由多名科学家与法律专家组成，并制定了20条准则供汽车行业在创建自动驾驶系统时使用。

目前德国内阁已经批准了该指导方针，使得德国成为了世界上首个实施此类措施的政府。

此份报告中关于自动驾驶道德伦理部分准则如下：

◆ 自动驾驶系统要永远保证比人类驾驶员造成的事故少，是该准则的第一必要条件。

◆ 人类的安全必须始终优先于对动物或其他财产。

◆ 当自动驾驶车辆发生不可避免的事故时，任何基于年龄，性别，种族，身体属性或任何其他区别因素的歧视判断都是不允许的。

◆ 在任何驾驶情况下，责任方，无论驾驶者是人类还是自动驾驶系统，都必须遵守已经明确的道路法规。

◆ 为了辨明事故承担责任方，自动驾驶车辆必须配置始终记录和存储行车数据的“黑匣子”。

◆ 自动驾驶汽车将对车辆所记录的数据保留唯一所有权，其可决定是否由第三方保管或转发。

◆ 虽然车辆在紧急情况下可能会自动作出反应，但人类应该在更多道德模棱两可的事件中重新获得车辆的控制权。

此份自动驾驶道德伦理准则将在未来两年中进行不断的完善，

从而保证自动驾驶技术开发迈向正确的方向。

查叔觉得这会造成伦理误区

这套规则的第三条是亮点：

“当自动驾驶车辆发生不可避免的事故时，任何基于年龄，性别，种族，身体属性或任何其他区别因素的歧视判断都是不允许的。”

这也意味着，自动驾驶不会判断受伤害的人员是否是小孩或者老人，

而是一视同仁，

而这在人类的价值观中似乎是有区别的，

小孩受到伤害远比成年人受伤害更不能接受，

再比如孕妇的优先级就要远高于其他人，也会受到人类司机更多的优待！

所以，自动驾驶这样一视同仁很可能会造成道德上的混乱，

如果在事故中处理不当，自动驾驶系统的“道德观”将会备受指责，

但是，如果让自动驾驶系统再去对每个人做如此细化的区分，

以目前系统的处理能力，这似乎是很难做到的。

总的来说，机器在很长时间里还只能是冰冷的机器，

当然，我们也不能因此就放弃自动驾驶，

人类不是完美的，

这也注定了人类的科技不会是完美的！

---

推荐阅读：

—  THE END  —