Uber自動駕駛車禍判決出爐:是人沒監督車,還是車沒監督人?
CV智識-余洋洋 / 何渝婷編譯
2019-11-20 11:45

(取自Uber 粉絲專頁)

 

美東時間11月19日下午1點半,美國國家運輸安全委員會(NTSB)召開會議,正式公布,去年三月份Uber自動駕駛車禍事件的原因。時隔將近兩年,全球第一例,也是目前為止唯一一例自動駕駛車禍原因正式確認。

 

NTSB將車禍的主要原因,歸咎於Uber脆弱的安全文化,沒有開啓緊急制動系統,沒有即時對保全進行監督,事發時,保全仍在看影片而非即時採取措施以扭轉局面。此次車禍主要原因在人,而非技術。

 

因對自動駕駛的安全問題處理不當,Uber受到NTSB主席羅伯特·蘇瓦爾特(Robert Sumwalt)批評,「自動駕駛系統的失控和保全人員的不當行為,指向一個更深層次問題,就是Uber的無效安全文化。」  

 

這稱得上自動駕駛短暫發展史上的一個里程碑式事件,將為此後如何避免此類事故的發生,提供前車之鑑。

 

當下,Uber正經歷一個難捱的11月:先是高管離職、創始人拋售套現,緊接著產品長(CPO)曼尼克·古普塔離職,產品部門無人坐鎮。

 

就在剛剛過去的10月底,Uber自動駕駛部門震盪。執行長多拉·霍斯勞沙希在一封內部郵件中,確認了新一輪裁員的消息,自動駕駛正是此次裁員的重災區。

 

把命交給自動駕駛,你敢嗎?

 

2018年3月的某個夜晚,美國亞利桑那州馬里科帕縣坦佩市,一輛搭載Uber自動駕駛系統的Volvo XC90,正以每小時43英里(約70公里)的速度行駛。

 

街道燈光昏暗,一名行人正穿過馬路,此刻他完全沒有想過,這輛正行駛在他前方的自動駕駛汽車,將威脅到他的生命:車撞了上來,猝不及防。當時仍有一名保全人員把控著這輛車,但事發那一刻,她並沒有即時操縱方向盤,以挽回悲劇。

 

全球首例,也是目前為止唯一一例自動駕駛車禍就此發生。而自事發起,這起Uber自動駕駛車禍案,就從未淡出過公眾視野,直到最近,這項持續了近兩年的調查,終於迎來一個結果,事發的原因也被完整呈現。

 

本月早些時候,NTSB公布了Uber去年自動駕駛車禍事件中的一些細節,以及Uber自動駕駛以往的一些碰撞事故。

 

文件顯示,Uber的自動駕駛汽車在發生撞擊前5.6秒鐘就檢測到了行人,但將其錯誤辨識為汽車,撞擊前5.6秒時,又將其歸類為其他物體。

 

換句話說,自動駕駛沒有辨識出,行人在指定人行道以外的地方過馬路的情況。

 

此後系統對物體的分類發生了混亂,在「汽車」和「其他」之間搖擺不定,浪費了大量寶貴時間,車輛也因此沒有即時剎車。加之當時車上的保全人員正在觀看電視節目,並未採取措施,最終導致事故發生。

 

NTSB報告還指出,造成事故的關鍵問題是,軟體無法正確預測受害者的類別和運動軌跡。如果系統可以及早正確地辨識出前方物體是行人,就可能會大幅放慢速度,或者設法繞開避讓。

 

但是Uber的汽車沒有預料到這起碰撞,系統在很長一段時間裡,把行人當做是某個未知的物體,認為他並不妨礙行駛。

 

Uber自動駕駛汽車在辨識到行人後1秒才開始制動,此時距離碰撞只有0.2秒,事故已經無法避免。自動駕駛系統之所以行動如此遲緩,是因為Uber認為緊急制動系統會造成車輛的不穩定,所以關閉了該系統。

 

通常來說,在碰撞前1.3秒,自動駕駛系統需要開啓緊急制動來緩解碰撞,儘早提醒保全人員進行干預並採取行動,以減少車輛不穩定行為的可能性,但為了更好控制自動駕駛系統,Uber直接放棄了使用緊急制動系統,足以看出Uber在推出自動駕駛方面的激進。

 

如果Uber從一開始就選擇開啓緊急制動系統,那麼類似的悲劇則很有可能不會發生。

 

除此之外,NTSB報告還顯示,在2016年9月至2018年3月之間,Uber的自動駕駛汽車,共發生37起碰撞事故,有兩起事故是車輛撞到了路邊的物體,其他的事故則都是追尾和車輛刮蹭。

 

披露正是為了替自動駕駛系統提供安全建議,以盡可能防止悲劇重演。在文件中,NTSB表示,「事故的所有方面仍在調查中,因為NTSB確定了可能的原因,目的是發布安全建議,以防止類似的事故。」

 

NTSB主席羅伯特·蘇瓦爾特(Robert Sumwalt),在11月19日舉行的撞車事故聽證會上表示,計劃確定在公共道路上測試自動駕駛車輛的安全風險管理要求。

 

蘇瓦爾特認為,Uber沒有持續監控車輛的行進狀況,首先是停用了該輛Volvo汽車的自動緊急制動系統。與此同時,Uber自己的系統,也沒有自動剎車的能力,僅僅依靠一個人類保全人員來進行剎車,而Uber也沒有即時監測保全人員的工作狀況。

 

就在事故發生前,保全人員正在觀看一個直播電視節目,並向下看。NTSB調查顯示,Uber車內部署有攝像機監控司機,卻沒有監控到保全人員的行為,以確保他們對車輛的行駛狀況保持警惕。

 

「所有在公共道路上測試自動駕駛汽車的公司,都需要研究這起案例,以防止未來發生事故。」蘇瓦爾特表示,這次事故的教訓,不僅適用於Uber的自動駕駛團隊,而且不侷限於「出了問題,現在已經解決了」。

 

「有些地方出了問題,如果不加以預防,其他地方可能也會出問題。」

 

激進的車,冷靜的車

 

這起全球第一例自動駕駛汽車致人死亡的事故,引發了人們對新興自動駕駛汽車行業的重大安全擔憂,此後,在推進商用的過程當中,自動駕駛企業開始變得冷靜謹慎。

 

首當其衝的,則是Uber自身。

 

事發後,Uber隨即聘請律師事務所LeClairRyan編寫報告,重點關注其自動駕駛團隊(ATG)的安全文化和安全實踐。

 

LeClairRyan在報告中提出的建議之一,是成立獨立的外部審查委員會,負責審查Uber的安全政策、流程和程序。在該報告發表大約一年後,Uber宣布成立自動駕駛安全責任委員會(SARA) ,負責審查ATG的決策,並為其提供建議。

 

SARA已經舉行第一次會議,並決定每季度召開一次會議。該委員會還將關注潛在風險,調查如何提高公眾對自動駕駛汽車的理解。最後告知ATG參與自動駕駛安全問題的產業對話,提升對無人駕駛的營運和責任意識。

 

事故發生後,Uber暫停了所有測試,直到2018年12月,才恢復賓州的測試,升級了軟體,並實施了新的重大限制和保障措施。

 

Uber發言人表示,該公司對導致死亡車禍感到遺憾,並指出其已經「採取了關鍵的程序改進,以優先考慮安全問題」,包括啓動剎車系統、更好地培訓人類備用司機、增加一名備用司機,以及聘請一名安全主管。

 

Uber車禍事發,在人們對自動駕駛技術充滿「不安」之時,谷歌旗下自動駕駛部門Waymo公司,其CEO約翰·克拉弗西克(John Krafcik)卻表示,如果遇到Uber類似的情況下,自家的自動駕駛技術可以避免悲劇的發生。

 

後來的事實卻「十分打臉」。2018年三月「友商」事發之時還在喊著「可以避免悲劇發生」,對自己技術充滿信心的Waymo,也在Uber事發之後,放緩了部署無人駕駛車隊的步伐。

 

2016年Waymo宣布自動駕駛汽車開始測試營運,當時的Wamyo在亞利桑那州開設了第一個測試和營運中心。但直到2018年12月,Waymo才推出了商業自動駕駛汽車服務,和配套應用Waymo One。

 

最近,Waymo還在關閉其在德州奧斯汀的業務,並將當地員工調往該公司位於底特律的生產中心,或亞利桑那州的鳳凰城,鳳凰城正是Waymo此前長期展開自動駕駛測試的「大本營」。

 

即使Waymo想快速推動無人駕駛汽車的商業化進程,安全問題仍在每一步擴張的過程中給公司帶來壓力。因此,堪稱全球自動駕駛的「領頭羊」 Waymo,也不得不在推進自動駕駛商用方面變得更加謹慎。

 

有關「自動駕駛技術怎麼做才是最安全的?」這個問題,業界依舊在討論,由此產生的不同方法,則仍在不斷地摸索與試探。

 

美國國家公路交通安全管理局(NHTSA),曾考慮各種新方案,以測試無人駕駛汽車的安全性。自動駕駛網關一度被認為,是一個安全可靠的實現方法。

 

這種遠程控制和我們玩賽模擬器大致相似,通過互聯網將正在道路行駛的車輛,其各項參數同步到遠程的模擬器,在需要時,保全人員可以通過遠程平台,無縫接管車輛。

 

但問題同樣存在:自動駕駛網關如果被突破,線控底盤的參數就一併被掌控,這時道路上行駛的自動駕駛車輛,就像是我們手中的遙控玩具,後果不想而知。

 

為了防止網路安全事件,Waymo則選擇了一種切掉外部網路連接的最保守方式。在Waymo看來,通過互聯網連接,自動駕駛系統就有可能受到外部攻擊,造成更大的危害。

 

有部分產業內人士認為,只要自動駕駛的測試里程達到一個量級,並且在相應的里程範圍內,自動駕駛的事故概率低於人類駕駛,那麼自動駕駛就能達到真正意義上商用的臨界點。

 

本文為愛范兒授權刊登,原文標題為「Uber自動駕駛車禍判決:人沒監督車?車沒監督人?