全球第一起自動(dòng)駕駛殺人案 如何判定技術(shù)與人的過錯(cuò)

    2020-09-27 15:33:41來源:極客公園  

    在極端情況下,如何判定技術(shù)與人的過錯(cuò)?

    Uber 的案例給出了一個(gè)比較清晰的答案,只是這答案不一定正確。

    9 月 16 日,曾經(jīng)轟動(dòng)一時(shí)的「自動(dòng)駕駛殺人案」有了初步判決結(jié)果。美國(guó)亞利桑那州馬里科帕縣的檢察官表示,坐在駕駛位的安全員 Rafaela Vasquez 被控過失殺人罪,但他所在的公司 Uber 在這起事件中不會(huì)面臨刑事指控。

    這是全世界范圍內(nèi)第一起自動(dòng)駕駛汽車撞人致死的交通事故,由此也引發(fā)了行業(yè)當(dāng)中不小的震動(dòng)。當(dāng)然,比起行業(yè)影響,這起事故本身反映的情況更值得我們討論:人與機(jī)器共同犯下的錯(cuò)誤,一定要由人來承擔(dān)所有罪過嗎?

    當(dāng)「安全員」變成「背鍋員」

    雖然案件的最終判決結(jié)果還未確定(10 月 27 日案件將舉行初審),但安全員將面臨兩年半的有期徒刑。目前,當(dāng)事人Rafaela Vasquez 拒絕認(rèn)罪。

    距離事發(fā)已經(jīng)過去了兩年半的時(shí)間,我們先來做個(gè)簡(jiǎn)單回顧:

    2018 年 3 月,Rafaela Vasquez 作為安全員乘坐的 Uber 自動(dòng)駕駛汽車在亞利桑那州進(jìn)行自動(dòng)駕駛測(cè)試時(shí),撞到了一位推著自行車橫穿道路的女性,致其死亡。

    根據(jù)美國(guó)國(guó)家運(yùn)輸安全委員會(huì)(National Transportation Safety Board,以下簡(jiǎn)稱 NTSB)調(diào)查結(jié)果顯示,當(dāng)時(shí)車輛時(shí)速為 62km/h,而道路限速 50km/h。

    在整起事故當(dāng)中,安全員并未擔(dān)負(fù)起她應(yīng)盡的責(zé)任。眾所周知,在當(dāng)下自動(dòng)駕駛測(cè)試中,絕大多數(shù)車輛都會(huì)配備 1-2 名安全員,如果車輛出現(xiàn)意外,安全員需要隨時(shí)接管。但是在本案中,安全員 Vasquez 并沒有專注在道路上,而是時(shí)不時(shí)低頭看右下方中控臺(tái)上的手機(jī)。在行車記錄的視頻當(dāng)中,事故前半秒鐘她才抬起頭來,但為時(shí)已晚。

    車內(nèi)安全員視角,事發(fā)前半秒安全員才發(fā)現(xiàn)道路前方的行人 | YouTube

    如果安全員不在車上看手機(jī)分心的話,事故是完全可以避免的。這是警方得出的結(jié)論,因此判定結(jié)果把責(zé)任全部推給了安全員。

    「殺人的是人,不是機(jī)器。」如果最終判決就是這樣的結(jié)果,難免有些草率了。

    在 NTSB 的調(diào)查報(bào)告中,Uber 的自動(dòng)駕駛技術(shù)明顯存在缺陷。在撞到行人前的 5.6 秒時(shí),Uber 的自動(dòng)駕駛解決方案(Autonomous Driving Solution,以下簡(jiǎn)稱 ADS)已經(jīng)檢測(cè)到行人,但從未準(zhǔn)確地將她歸類為「人」。幾秒鐘之內(nèi),自動(dòng)駕駛系統(tǒng)把它識(shí)別為未知物體,然后識(shí)別為車輛,然后變成自行車,卻一直沒有自動(dòng)剎車。

    等到自動(dòng)駕駛判定為即將發(fā)生碰撞時(shí),機(jī)器已無法及時(shí)剎車。這又是系統(tǒng)的一個(gè) bug 類設(shè)計(jì):它沒有考慮到突然發(fā)生碰撞的可能性,因而沒有設(shè)計(jì)緊急制動(dòng),而是純依靠安全員的干預(yù)來避免碰撞。

    車外視角,直到事故發(fā)生自動(dòng)駕駛系統(tǒng)也沒有識(shí)別出行人 | YouTube

    Uber 的自動(dòng)駕駛技術(shù)當(dāng)時(shí)也不算多先進(jìn)。加州交管局 DMV 之前發(fā)布的年度接管報(bào)告表示,Uber 的自動(dòng)駕駛汽車在測(cè)試過程中需要安全員頻繁接管,平均每 37km 就要進(jìn)行一次人工干預(yù),對(duì)比目前業(yè)界公認(rèn)第一的自動(dòng)駕駛公司 Waymo,后者在 2018 年每 1000 英里測(cè)試人工接管的次數(shù)為 0.09。

    更不可思議的是,Uber 還停用了車輛本身的前方碰撞預(yù)警和自動(dòng)緊急制動(dòng)系統(tǒng),一輛本身就配備安全系統(tǒng),加裝眾多傳感器的自動(dòng)駕駛系統(tǒng)的智能汽車,最依賴的結(jié)果還是人。

    北京市安理律師事務(wù)所汽車和人工智能業(yè)務(wù)負(fù)責(zé)人何姍姍在接受極客公園(ID:geekpark)采訪時(shí)表示,Uber 的自動(dòng)駕駛車輛的確存在產(chǎn)品缺陷,從這個(gè)角度來看,Uber 作為技術(shù)背后的企業(yè)應(yīng)該負(fù)擔(dān)安全事故責(zé)任。但這起案件的結(jié)果代表著美國(guó)對(duì)于新技術(shù)比較寬容的態(tài)度,「如果同樣的事件放在德國(guó)這種監(jiān)管比較嚴(yán)格的國(guó)家,結(jié)果會(huì)很不一樣。」

    NTSB 的最終調(diào)查結(jié)果認(rèn)為,安全員事發(fā)時(shí)看手機(jī)分散了注意力,并且 Uber「安全文化不足」導(dǎo)致事故發(fā)生。從事實(shí)上看,安全員固然有責(zé)任,但技術(shù)同樣有明顯紕漏之處,有著不可推卸的責(zé)任;但從法律上給出的結(jié)果,人承擔(dān)了全部的刑事責(zé)任,技術(shù)無罪。不承擔(dān)刑事責(zé)任的 Uber 需要做的就是改進(jìn)自動(dòng)駕駛技術(shù)的缺陷。

    很明顯,在這起事件當(dāng)中,安全員變成了「背鍋員」。

    技術(shù)的長(zhǎng)期挑戰(zhàn)

    人類學(xué)家瑪?shù)铝?· 克萊爾 · 埃利什(Madeleine Clare Elish)在研究航空領(lǐng)域自動(dòng)化背景下美國(guó)對(duì)于航空事故的判定時(shí)發(fā)現(xiàn),盡管大趨勢(shì)是飛機(jī)的控制越來越轉(zhuǎn)移到自動(dòng)駕駛,但對(duì)于飛行事故的責(zé)任判定仍舊集中在飛行員身上。

    她認(rèn)為,在高度自動(dòng)化的系統(tǒng)與責(zé)任歸屬的實(shí)際分配方式之間存在著巨大的不匹配。因此,她得出結(jié)論:法律責(zé)任和責(zé)任的概念未能與技術(shù)進(jìn)步保持同步。

    在 Uber 自動(dòng)駕駛案中,似乎是一樣的道理。在自動(dòng)駕駛的測(cè)試中,安全員的作用在一整套系統(tǒng)當(dāng)中僅占據(jù)很少部分,更何況自動(dòng)駕駛測(cè)試的最終目的就是拿掉安全員,實(shí)現(xiàn)真正的無人駕駛。

    何姍姍表示,高級(jí)別的自動(dòng)駕駛環(huán)境中,盡管有汽車的「黑匣子」可以記錄相關(guān)數(shù)據(jù),但在責(zé)任的劃分上也會(huì)出現(xiàn)困境,需要在技術(shù)層面和未來立法層面做改觀和突破。

    華盛頓大學(xué)法學(xué)院的機(jī)器人學(xué)法學(xué)教授 Ryan Calo 表示,安全員的過失導(dǎo)致行人身亡,這是一個(gè)簡(jiǎn)單的故事;如果對(duì)公司提起訴訟,必須要講述一個(gè)更加復(fù)雜的故事,「涉及自動(dòng)駕駛汽車的工作原理和 Uber 的錯(cuò)誤之處」。

    事實(shí)上,現(xiàn)如今也沒有一條法律能夠證明,L4、L5 級(jí)別的自動(dòng)駕駛事故中哪一方該承擔(dān)哪一部分的責(zé)任,需要通過汽車內(nèi)外部攝像頭等設(shè)備記錄的數(shù)據(jù)來判斷最終的責(zé)任歸屬。

    不僅是法律上的界定,從技術(shù)發(fā)展的角度來看,都會(huì)是一個(gè)社會(huì)性的難題。人類社會(huì)對(duì)于新技術(shù)的一大挑戰(zhàn),就是技術(shù)本身還沒有準(zhǔn)備好,人卻高估了技術(shù)能做的事情。

    特斯拉在發(fā)布旗下輔助駕駛系統(tǒng) Autopilot 之后,全球范圍內(nèi)發(fā)生了多起交通事故,原因在于駕駛員過于信任這套輔助駕駛系統(tǒng),高估了它的能力。即便特斯拉在 Autopilot 的宣傳當(dāng)中重點(diǎn)強(qiáng)調(diào),它只是 L2 級(jí)別輔助駕駛,行駛過程中駕駛員必須隨時(shí)關(guān)注道路并接管,但還是有人無視這一規(guī)則,歸根結(jié)底就是對(duì)于新技術(shù)過于信任。

    2020 年 6 月,一輛處在輔助駕駛狀態(tài)的特斯拉撞上了前方橫著的卡車 | 網(wǎng)絡(luò)

    Uber、Waymo 等公司在做的 L4 級(jí)別自動(dòng)駕駛多數(shù)情況下依舊需要安全員的存在,恰好說明了至少在目前,技術(shù)都不可能達(dá)到完美的狀態(tài)。

    MIT曾經(jīng)提出過「人機(jī)共駕」的課題研究,這項(xiàng)研究存在的基礎(chǔ)就是短期內(nèi)人不會(huì)從自動(dòng)駕駛汽車中消失,在低級(jí)別的自動(dòng)駕駛當(dāng)中,仍然要「以人為中心」。在這樣的預(yù)期之下,人與技術(shù)共存將是未來長(zhǎng)期的狀態(tài),從以人為中心到以機(jī)器為中心轉(zhuǎn)變的過程中,也會(huì)引發(fā)法律和道德上一系列框架的設(shè)定。

    相應(yīng)地,在自動(dòng)駕駛領(lǐng)域怎么判斷安全員所處的位置,進(jìn)而調(diào)整安全員體系;甚至在人與機(jī)器協(xié)作的領(lǐng)域里,怎么思考以人類視角與機(jī)器視角分配工作與責(zé)任,其實(shí)都是我們應(yīng)該去細(xì)化的方向。

    技術(shù)的目的是服務(wù)于人,如果人要為技術(shù)背鍋,道理上無法講得通,不要讓人成為技術(shù)發(fā)展的「犧牲者」。

    標(biāo)簽:

    相關(guān)閱讀

    相關(guān)詞

    推薦閱讀

    国产亚洲漂亮白嫩美女在线| 久久夜色精品国产亚洲| 久久久久无码精品亚洲日韩| 亚洲一区二区三区在线播放| 精品久久久久亚洲| 国产精品国产亚洲区艳妇糸列短篇 | 久久精品国产亚洲av麻豆色欲| 亚洲成a人片77777kkkk| 亚洲国产a∨无码中文777| 国产亚洲成av人片在线观看 | 久久久久久A亚洲欧洲AV冫| 精品国产人成亚洲区| 国产亚洲精品久久久久秋霞| 亚洲无线码一区二区三区| 国产亚洲精品资源在线26u| 亚洲成Av人片乱码色午夜| 亚洲国产一区国产亚洲| 久久精品国产亚洲77777| 亚洲系列国产精品制服丝袜第| 亚洲最新中文字幕| 中中文字幕亚洲无线码| 亚洲精品无码少妇30P| 日韩色视频一区二区三区亚洲| 亚洲精品色婷婷在线影院 | 亚洲乱码中文字幕小综合| 亚洲综合久久一本伊伊区| 亚洲熟妇AV一区二区三区浪潮| 亚洲va中文字幕| 亚洲美女高清一区二区三区 | 偷自拍亚洲视频在线观看99| 亚洲jizzjizz少妇| 狼人大香伊蕉国产WWW亚洲| 亚洲AⅤ视频一区二区三区| 国产成人亚洲影院在线观看| 国产精品亚洲一区二区三区在线 | 亚洲日韩AV一区二区三区四区 | 亚洲日韩精品一区二区三区无码 | 国产精品亚洲色婷婷99久久精品| 亚洲国产精品日韩专区AV| 亚洲日韩av无码| 亚洲综合激情视频|