被机器玩弄的命运，自动驾驶之殇！

Posted 2021-04-27 汽车葫芦圈

出门，语音唤醒智能助手，随口说出需要抵达的目的地，一下楼就有一台无人驾驶的汽车，开着门停在门口。

上车，你可以选择车内座椅布局是办公模式，或者睡眠休息模式，以一种你最舒服的状态到达目的地。

下车，再也不需要到处寻找停车场，也不用开到漆黑的地库，关门便结束旅途，车子在智能AI系统的指引下，去寻找另一个订单任务，消失在车流中。

被机器操纵的命运

或许，这就是我们对未来无人驾驶汽车的基本幻想。但最近波音737MAX的事故，一时间打破了未来美好的向往。不到一年，两架全新的波音737MAX，出现了诡异的“人机互斗”情况，最终飞行员还是没能博过电脑，两架全新的737MAX坠毁，无一生还！

这两起事故其实非常相似，飞行员在灾难发生之前其实已经发现了问题，并且直到最后一刻都在努力解决，印尼航空飞行员拼命把机头拉起20多次，而埃塞航空飞行员第一时间决定返航，但最终都无力回天。

也就是说，这两次事故中，飞行员都无法对抗机器，无法对抗“人工智能”，那么为什么波音737MAX8这个破飞机非要“和飞行员作对”？

那是因为这架飞机上有个类似于“自动驾驶系统”的东西，叫做“MCAS”，也就是自动纠正失速系统。

当波音737max飞机因为起飞仰角过大速度过低时，系统自动压仰角，传感器发生故障的时候可能会误判飞机姿态，直接越过飞行员的控制去自动“压机头”，所以狮航客机那莫名其妙的20多次“机头下垂”就可以理解了。

这听起来就像是一个非常荒诞的科幻故事，在面对重大灾难和危机的时候，人类居然无法关闭智能系统，反而被机器操纵了命运，眼睁睁走向死亡。

飞机可以任性不执行飞行员指令？

对于波音737MAX事故，为何不是以人类的决策为主导权，我们试着查阅资料发现。波音最先进的飞机波音787系列，采用的是更加完善的电传操控系统。

当你提供一个指令给飞机时，飞机根据指令自行决定如何控制飞行姿态，甚至可以决定要不要执行你的指令。是的，你没有听错，现如今的飞机就是这么任性。

它一边接收飞行员的指令，一边监控飞机的姿态、速度、大气数据等信息，综合所有的数据进行计算，然后输出指令控制飞机的飞行。如果飞行员有什么不轨行为，它可是会拒绝的。这么设计的目的主要是防止飞行员一时头脑发热做出不利于飞行安全的事儿，飞机会对指令的合理性进行判断后执行。

意外与惊喜

当前，现代飞机的自动驾驶系统，已经先进到可以不听人的指令了。而在刚刚入门的汽车自动驾驶领域，我们看看自动驾驶又是怎样一番景象？

▷ 事例1

2016年5月，当时，一辆开启Autopilot功能的特斯拉Model S电动汽车在途经十字路口的时候，撞上了一辆正在左转的卡车，Model S的前挡风玻璃撞进了卡车底部，驾驶人也因此死亡。

事故原因，特斯拉是这样解释的：首先，白天强光下，拖车白色侧面会反光，摄像头会短暂“失明”；而且由于拖挂卡车底盘较高，毫米波雷达无法探测到车身，这种非常少见的情况导致了系统疏忽而没有启动自动刹车；同时，车辆碰撞位置为挡风玻璃，正是防撞系统传感器的安装位置，使得防撞系统失灵，直接撞上卡车。

▷ 事例2

2018年3月在美国西南部亚利桑那州坦佩市，一名女子被优步自动驾驶汽车撞伤，之后不幸身亡，成为世界首例自动驾驶车辆致行人死亡的事故。

优步自动驾驶汽车致命性撞击事件调查初步结果显示，该全自动驾驶沃尔沃XC-90 SUV在撞击发生6秒前就已发现行人，但并没有启动紧急制动，从而导致事故发生。

除了这些意外事故，其实特斯拉还有另外一面！

▷ 事例3

事例1中特斯拉在Autopilot模式下与一辆卡车相撞事故，美国国家交通安全委员会给出了长达500页的调查结果。

结论显示目前没有发现特斯拉车辆本身存在缺陷，不会就此要求特斯拉召回车辆。而且，尽管车辆多次警告布朗不得在驾驶途中双手离开方向盘，但车主仍然不理会警告，最终引发悲剧。

可以说在这次事故当中，特斯拉的Autopilot尽管没有识别到前方的大卡车，但也起到了警示车主的作用，对于一个L2级别的自动驾驶系统，能够做到这份上，也是可以了。

▷ 事例4

在2018年2月5日特斯拉车主帕特尔发了一段视频，当时他驾驶了一辆特斯拉Model 3，并且开了自动驾驶。

 

突然，自动驾驶状态下的特斯拉向左猛打方向盘，原来是一辆深色小汽车突然变道，撞向特斯拉。

特斯拉自动驾驶躲避车祸精彩瞬间集锦：

而当小汽车拐回原来的道路时，特斯拉又自动调整回了方向，整个过程持续不到2秒，可以说是电光火石之间。

帕特尔回忆称，幸亏自动驾驶突然转向，避免了一场车祸。

▷ 事例5

这名叫做John Anderson的用户表示，他于12月16日在美国亚特兰大一条公路上驾车行驶，突然前方发生追尾事故，当时他正在使用特斯拉自动巡航功能开车，特斯拉紧急刹车避免了撞击，整个过程被特斯拉行车记录仪记录下来。

“它在我手动刹车前就自己刹车了，所以没有撞到前面的车。”John Anderson这样描述当时发生的状况。

特斯拉车辆配备由Autopilot驾驶辅助系统支持的自动紧急制动（AEB）功能。它可以自动检测潜在的撞击并开启制动功能，以避免撞击发生或降低撞击时的冲击力。

Autopilot驾驶辅助系统的雷达技术，该技术能够通过接收在车辆下方反弹的雷达波，探测在两辆车之间的潜在事故。是该系统能够看到前方车辆再之前的汽车，基本上可以跟踪前方的两辆汽车。雷达能够在特斯拉前方的车辆下方或周围反弹，看到驾驶员因前方车辆阻挡视线看不到的地方。

无法掌控的生命最可怕

特斯拉创始人伊隆马斯克一直坚持认为无人驾驶是更安全的方式，毕竟与人类驾驶员相比，辅助驾驶安全系统不会疲劳、应急响应的速度也更快。美国国家公路交通安全管理局(NHTSA)给出的数据是，Autopilot能够将交通事故率降低40% 。

根据当前汽车自动驾驶引发的事故来看，其实当前汽车自动驾驶和飞机完全没有在一个级别。当前并没有能够完全自动驾驶的车辆，而且引发事故的都是测试车，此外，关于L2级别的特斯拉，在辅助驾驶情况下，基本也都是因为人类自身的驾驶疏忽，而引发的事故。

但这次波音737MAX，却是另外一个逻辑。其本质是一个为了保障飞行安全的系统，出现故障，而引发了和人类飞行员的博弈，而且比较糟糕的情况是，飞行员没有办法在第一时间内，夺回对飞机的控制。

如果，当未来自动驾驶已经发展到，L5完全自动驾驶级别。由于传感器问题，你踩刹车失效，转向不受控制，这样不可控的事故，可能相比当前酒驾带来的后果还要严重吧。

尽管完全自动驾驶能够大范围降低交通事故率，但是那些因为系统意外，而导致的惨剧，命运无法掌握到自己手里，这对任何一个个体都是不公平的。

顺着这个逻辑，我们又对未来自动驾驶提出了“电车难题”的思想实验。某一天，完全自动驾驶汽车，前方出现意外事故，车辆面临要么迎头撞上前方的大卡车，要么急速右转，撞上路边的行人，面对这样连人类都无法解答的问题，无人驾驶该如何选择？