有感于“特斯拉又失控了“

微信群又传来特斯拉失控的新闻,这次很惨,造成2死6伤: 四川一特斯拉失控26伤!今年已发生3起,上海也曾有一辆冲进加油站撞伤2

特斯拉自己提速、失控,多次被报道。每次特斯拉都是从原理上论证了不可能,车主与特斯拉各执一词,成了当今世界的一大悬案。车主通常是说,明明就是失控了。突然莫名其妙提速,车主急了,手忙脚乱想刹车,没刹住,所以造成事故。特斯拉说,提速是一个自动驾驶状态的feature 不是 bug,失控是车主操作不当或粗心大意造成了事故,绝不会刹车失灵,要接管总是可以的。同是车主的特斯拉众粉丝,往往站在特斯拉一边谴责肇事者。这个现象很有趣。无产阶级不为无产阶级兄弟辩护和维权,反而站在资本家一边落井下石。但这个现象真地非常普遍,去特斯拉各大脸书网页经常看到这样的议论。

作为技术控和“把玩”了特斯拉快一年的车主,我得说,这事儿其实是公婆各有理。几乎每个 case 最终都能说明,提速不是 bug 而是 feature,纯技术上看,自驾原理上不会有“失控”。 自动驾驶的定义中就有加速一条,哪里有只有减速和停车的自动驾驶呢?虽然都知道“说无难”,而且自动驾驶属于软件控制硬件,bugs也难免,但至少迄今未能有任何人证实特斯拉自动驾驶有失去控制的bugs,其实工程上讲,这很可能是个伪命题。

但是,另一方面 车主明明白白就是“感觉”失控了,这种感觉是不必质疑的,车主们其实都有过程度不同的切身体会。特斯拉作为制造商,没有做到大量减少或消除让车主出现失控感觉的种种情形,是有其自身责任的。其实也不是没有努力去做,而是因为总是匆忙上线,加上软件训练的 incremental 本性,它是没有办法照顾所有不同车主的“感觉”的。对于技术控不是问题的情形,到了普罗车主就可能是机器发疯,完全失控了。加速到什么情况可以称为失控,其实是没有标准的(speed limit + 增量alpha 可能算是绝对上限),绝对上限之内都可以 argue 说是 feature 而不是 bug。每个人的小心脏对于预期之外的自动驾驶表现和 surprises 的承受能力不同,所以 report 失控的车主与看到了 UFO 的人一样真实。感觉是不会骗人的,但感觉的世界不一定是客观世界。

特斯拉突然加速的事情,我认真做过调查研究。的确多数是一种误解/错觉,像丰田车曾经被证明刹车失灵那样的完全失控没有在特斯拉上被证实过。所谓自动加速大体是下面几种情形。

    • 在自动驾驶状态,如果前面的道路的 traffic 没了,车会逐渐加速,直到设定的速度限制为止。这当然是一个 feature,不是 bug。但早期的特斯拉,前面的车突然转到邻道,特斯拉会很快加速,的确让人有些心惊胆战的。后来的软件更新开始控制突然加速的幅度,改为逐步加速,照顾了人的感受,这才减少了“失控”的抱怨。
  •  
    • 自动辅助驾驶有两种状态,一种是“自动巡航”(traffic-aware cruise control,只控制速度,不控制方向盘),另一个是所谓“自动驾驶”( autopilot,方向盘也受机器控制)。进入自动巡航状态和从自动巡航状态退出没有明显的提示(屏幕上有标示,但没有警声,但从 autopilot进出,都有明显的声音提示)。有时候开车的人忘了自己处于这个状态之中,这就会造成虽然自己在开车(把握着方向盘呢),汽车却失控,自己加速的错觉。无论如何,人都可以随时接管,完全失控的故事迄今为止都是个传说或谣传,而且只要不惊慌失措,刹车就可以马上阻止提速。岂止刹车,如果前面有障碍物,或要撞上前面的车辆了,汽车也会自动刹车。但这个自动刹车的 feature 却是还有隐患或 bugs,会有判断失误(譬如以为前面静止的白色大货车是蓝天上的白云,于是一头撞上去,或者前面的障碍物是压线的警车,而不是占据了整个车道的车辆,有时候特斯拉判断不好压线的程度要不要规避,也会撞上警车,这些都是已知的bugs和当前自动驾驶模型的短板),不是100% 都可以避免事故。

具体说来,突然提速的错觉最常发生在车主把脚从油门松开的时候。作为一个“无缝对接”的 feature,无论自动巡航还是自动驾驶,人随时可以踏油门接管速度控制。但是,油门一松,就是机器接管了,这时候机器根据路况会在预设的最高速度限制范围内提速。这种突然无缝接管的机器提速,常会让人吓了一跳,感觉就是失控。其实这个问题是有解决方案的,不知道特斯拉为什么没做到位,也许是过分强调了“人机耦合,无缝对接”造成的副作用吧。解决方案是:自动巡航的进出也应该默认给某种声音提示,起码是这种提示是可以配置的,不能真地“无缝”,让人不能随时感知是处于自己控制还是机器控制的状态。第二,机器接管以后,哪怕大路朝天,甚至临近车道都没有 traffic,提速也不能太快,还是要渐次进行,不抢一秒,照顾一下人类的感受,而不仅仅是安全驾驶的客观需求。做到这两条,上述“失控”的问题就会大为减少。有谁是特斯拉挖煤的吗,请把上述宝贵建议转达上去,避免你家特斯拉遇到更多投诉,也增强特斯拉自驾的“人性”感。

对于技术控,对于把自驾当成把玩和研究对象的人,每出现一个 surprise,都会尝试分析其原因。绝大多数 surprises 无论是加速,还是突然减速或刹车(叫做鬼影刹车 phantom braking),最后都找到了某种合理的解释,的确是 features,但也有解不出来的。这时候技术控根据多年自己既是软件制造人,也是软件使用人的经验,知道解不出来也是常态,至少不能把解不出来归因为 bugs,因为 bugs 需要证明或 debug(非内部人不能,所以车主其实无法证明),而解不出来只是一种无知而已。无知其实不绝对等于真解不出来,而往往是耗尽了耐心,或感觉不值得去解了。可这一切对于一个驾驶特斯拉的老妪或新同学,那就是实实在在的失控。

比起突然提速,鬼影刹车在特斯拉是个更加头疼的事情,叫鬼影,就是因为通常不容易确定究竟是怎么触发的。以前发生频率很高,马路上遇到阴影,太阳光直射,等等都会造成误判,车子会突然减速,让人吓了一跳,也增加了后车追尾的可能。自动驾驶的不断更新,鬼影刹车开始明显减少了,但还是偶然会遇到,的确有个适应的问题。

说一点体会,驾驶了快一年,真正没有找到合理解释,除了鬼影,真切“感觉失控”过几次呢?大约有四五次(突然提速或车道摇摆)。每次都有些惊魂不定,但每次都能接管过来,有惊无险。

软件的本性就是不完善、不成熟,永远在过程中。一个不成熟完善的东西推向市场,必然引起纠纷。令人惊异的是,在这种人命关天的纠纷中,特斯拉能屹立不倒,反而被股市狂热追捧,也是一个奇观。谁家胆子有马斯克那么肥呢?

特斯拉的QA(质量管控)只能算勉强,差强人意,绝对不是严格的业内高标准。部分原因猜想是源于老板的催命。马斯克每天鞭子抽着技术人员,他海口跨出去n多年了,总是不能按时实现,已经成为马斯克现象级的笑话了。在这种情况下,他的管理本能就是加压。在老板加压以及巨大股权刺激下的程序猿们,怎么可能做到高水准的 QA 管理呢?因此特斯拉每两个星期推送一次的软件在线更新(OTA,over-the-air),往往是进两步,退一步。regressions 是随处可见的,软件大厂中所罕见。但它停不下步伐,马斯克定型的公司文化也很难改变这种节奏。他满足最多的是技术控,因为技术控们抢着着白老鼠,巴不得第一时间把玩新的 features,哪怕冒着 regressions 的风险。但这种节奏其实是不适合快速推广的。

从来就喜欢 gadgets,当年玩苹果 iPods 各种也是入迷。但说心里话,尽管有事没事拿马斯克开开涮,这个大玩具给我带来的乐趣 完全超出想象。本来是遥不可及的自动驾驶,现在每天把玩。有事没事开着车在谷子里瞎转悠(长走的线路是 280,880,680,92 到半月湾,17路到桑塔克鲁兹,当然还有太平洋一号大道,还有一些 express ways,不大喜欢杂乱的101)。大概除了坐火箭外,没有啥玩意儿比这东西好玩了。而且正因为他家自动驾驶很不完善,乐趣变得更大,因为老在盼望升级,满怀退一步进两步的抱怨和惊喜。老友说:“最近特斯拉升级有点太频繁了。以至于我这一阵,每次坐进车里,都在现在升级还是等到晚上23:30中纠结“。我的回答是,不嫌其贫,不嫌其烦,不嫌其频繁,乐在其中也。Lol  现在老往网上去查看新的版本已经出来没有,是不是排队快到我家了(特斯拉软件升级是分批次的,我大约处于前百分之十收到升级的用户,而最“幸运”的小群体是被称为小白鼠的 beta testers)。虽然有些升级很琐碎,一旦接到通知,还是立马升级,先试为快。自从拥有特斯拉,最受益的几个升级包括,(自动回收电能的)单踏板驾驶、自动换线的性能提升和有限制的红绿灯行驶。最近的升级有自动关闭窗户,也很不错,一劳永逸地解决了我忘关窗户的担心。这是特斯拉在由来已久的自动开门和上锁功能后的又一个便民措施。

过程比结果重要。如果就是一个完美的全自动,一个未来世界的完成品,坐进去就跟傻瓜似的,它让你无可挑剔,你也插不上手。它是它,你是你,那也了无趣味。现在的体验是让你有参与感,这种“人机耦合”,随时接管,最有玩点。每天驾驶着一台超级计算机,这台机器不时有几个 bugs 冒出来(不必是严格意义上的工程 bugs),你虽然不能钻进去 debug,但你可以评估、猜测和想象问题的所在。很多体验在以前觉得不可思议。譬如夜间的自动驾驶、狂风暴雨中的自动驾驶,以前想当然以为自动驾驶会一团糟,或至少是大退步,其实表现完全超过。有两次遭遇狂风骤雨,自己把控都觉得非常困难,结果自动驾驶反而显得更加稳定,坚持在线内减速行驶(也有自驾主动放弃的时候,大概是传感器和摄像头接到信号低于某个阈值)。至于夜间驾驶,发现比白天驾驶安全感更好,真地可以在车上睡觉或假寐了。部分原因是夜间的路上,疯狂和野性的驾驶行为和呼啸而过的摩托几乎绝迹,大家都循规蹈矩地赶路回家。夜间走长路没有新鲜的刺激,单调冗长,特别容易疲劳驾驶。好在自驾不懂疲劳,对它没有挑战。人觉得困难的场景,机器不见得就觉得一样的困难。

马斯克在内部说,电动车造价下不了,老百姓用不起,那就不能算特斯拉成功了。不仅仅是性价比的问题,而是绝对价格要下来。这才能达成全面取代燃油车的清洁能源愿景。据说两万美金左右的“迷你特斯拉”,正在上海和柏林紧锣密鼓研制中。特斯拉进一步推广到大众,“失控”和事故的案子会越来越多的。车主从技术控群体,越来越普及到普罗。特斯拉这么有钱,还是赶紧把软件队伍扩大十乃至百倍,加紧研制更“人性”的自动驾驶来减少麻烦和事故吧。但愿特斯拉软件质量跟上硬件车辆的普及速度。

 

【相关】

是特斯拉的自驾AI牛还是马斯克牛? 

王婆不卖瓜,特斯拉车主说自驾》 

马斯克的AI牛皮

【语义计算:李白对话录系列】

【置顶:立委NLP博文一览】

《朝华午拾》总目录

发布者

liweinlp

立委博士,弘玑首席科学家,自然语言处理(NLP)资深架构师。前讯飞AI研究院副院长,研发支持对话的多语言平台,前京东主任科学家, 主攻深度解析和知识图谱及其应用。Netbase前首席科学家,期间指挥研发了18种语言的理解和应用系统。特别是汉语和英语,具有世界一流的解析(parsing)精度,并且做到鲁棒、线速,scale up to 大数据,语义落地到数据挖掘和问答产品。Cymfony前研发副总,曾荣获第一届问答系统第一名(TREC-8 QA Track),并赢得17个小企业创新研究的信息抽取项目(PI for 17 SBIRs)。立委NLP工作的应用方向包括大数据舆情挖掘、客户情报、信息抽取、知识图谱、问答系统、智能助理、语义搜索等等。

发表评论

电子邮件地址不会被公开。

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据