自动驾驶伦理困境：我们能接受AI“错到什么程度”？

　　不可能100%安全，应考虑“错到什么程度”可接受

　　智能网联汽车是指车联网与智能车的有机联合，通过搭载先进的车载传感器、控制器、执行器等装置并融合现代通信与网络技术，以代替人操作为终极目标的一种概念。

　　而其核心的自动驾驶技术，在让汽车不断“进化”之时，也带来了不少伦理风险。

　　在会议上，瑞典查尔姆斯理工大学终身教授、华为高级专家顾问陈芳便就此提出了“自动驾驶的伦理风险分析”这一议题。

　　陈芳解释道，伦理本质上是一种研究行为的科学，对于一辆自动驾驶车辆来说，不会有“某一块装置”直接与伦理相关，但是在自动驾驶系统进行综合决策的时候，一定会涉及到。

　　她举了一个例子：“比如面对一些要么撞上自己，要么撞上行人的极端情况，这种时候自动驾驶系统要如何做决定？驾驶员、车辆、自动驾驶系统开发者又该如何划分责任？”

　　因此，在陈芳看来，自动驾驶的伦理问题本质是“决策”，即外界的条件通过各种传感器传到了计算系统中去，再根据其他的外部环境、内部环境各方面来做一个决策，做完决策车辆再实行一定的控制过程，在这种情况下就需要考虑到很多伦理问题。

　　陈芳指出，这种伦理决策的倾向会受多个因素的影响：

　　后果影响大小及社会共识。比如导致一个人或造成很多人轻伤两个后果之间的抉择

　　可能性。对一名乘客有10%的概率造成严重伤害和100%造成很多乘客的轻伤两个后果之间的抉择

　　即时性。事故发生一刹那的本能反应

　　亲密感。对行人和车上家庭成员的亲密程度造成的决策不同

　　效果的浓度。造成10个人死亡的影响远远超过造成5个人思维的影响

　　除此之外，陈芳也提到，也有很多人试图从AI算法的角度解决问题。比如对于特斯拉的一些事故，很多人就想要通过AI的深度自学习来提高其决策的合理性。“但事实上自动驾驶要100%的安全是不可能的，因此我们要针对这种技术局限性，来讨论它‘错到什么程度’是我们可以接受的。”

　　她提到L3级汽车(有条件自动驾驶，驾驶员可以解放手脚，不必监控环境，但要能够在短时间内接管)的驾驶员接管问题时表示，这里有两个需要思考的问题：一个是驾驶员接管的时长问题，另一个是接管之后的责任问题。

　　中国汽车工程学会国汽战略院副院长战静静进一步提出，或许可以在标准法规上尽可能对预留接管时间、在什么样状态下有哪些选择都界定好责任，以这种责任划分的形式，把生产厂家的责任和驾驶员的责任放在一起。

　　“无人驾驶全面普及不会超过30年”

　　在吴建平看来，在L3或者L3以下的无人驾驶中，扮演主要角色的本来就是驾驶员，所以更多时候决策权还是落在驾驶员身上，谈不上机器做决定，所以“探讨伦理层面的问题”应该针对更高级别的无人驾驶。

　　因此，吴建平从“无人驾驶与未来交通”的角度，分享了在他设想中的无人驾驶最终到达之际，我们的社会将产生什么样的变化。

　　首先是社会的通行能力可能会有3到5倍的提升。吴建平解释道，人类反应速度的基数大概在0.5秒左右，这也就是为什么人类驾驶员需要在高速路上要保持几十米，在城市道路要保持一二十米的距离。但无人驾驶车辆的感知能力和反应能力都更强，能够把距离缩短到几米，那么路面上就不会那么堵，路上就能多跑3倍到5倍的车。

　　其次是能够减少70%以上的驾驶事故。因为机器不会自己打电话、酒驾或疲劳驾驶。

　　最后一点，则是这种无人驾驶的交通方式将会彻底改变人类的生活习惯。吴建平认为，到了无人驾驶时代，共享模式的出行会成为主流，而车则会成为家庭和办公室的延伸，汽车厂商在未来甚至有可能会变为一种社会服务、交通服务的提供商，而非汽车的销售商。

　　吴建平提到，目前无人驾驶研究分为两条路线：第一条是基于车端的开发，目的是把车做得像人一样智慧，让车自己看自己开自己做决定，这条线路上有不少传统车厂；第二条则基于5G、通讯和车联网。吴建平解释，第二条路线“就像人下象棋一样”，车就是一个棋子，由系统来根据车的位置，获取车辆的速度和前后侧的状况，然后再告诉汽车应该做多大的加速度或换道。

　　不过，在他看来，最终两条路线会合并为一条车路协同的方向：车尽可能地智慧，而系统在部分信息缺失或有误的时候提供一些补充。

　　吴建平还对无人驾驶时代的到来做出了预测：“就像30年以前大家在北京路上看到的都是自行车，而经历了30年，今天路上都是人类驾驶的汽车，那么到路上都是无人驾驶汽车的那一天呢？应该不会超过30年。”