從拆除福島核電站到檢查北海的水下能源基礎(chǔ)設(shè)施，機器人車輛已在危險環(huán)境中工作了數(shù)十年。目前，從船舶到雜貨配送，自動駕駛車輛已從研究中心平穩(wěn)地過度至現(xiàn)實社會中，且?guī)缀鯚o紕漏。
然而，無人駕駛汽車的發(fā)展并仍停留在測試階段。2018年Uber自動駕駛測試汽車就導(dǎo)致了一位行人喪生。盡管這類事件在非自動駕駛中經(jīng)常發(fā)生，但公眾對于無人駕駛汽車的安全標(biāo)準(zhǔn)要求較高，即使僅發(fā)生一次事故，也會認(rèn)為無人駕駛汽車不夠安全，不應(yīng)該投放于公共道路。
因此，設(shè)計一輛始終能做出最安全決策的完美無人駕駛汽車是一項非常艱巨的技術(shù)任務(wù)。與在嚴(yán)格控制的環(huán)境中推出的其他自動駕駛車輛不同，無人駕駛汽車需在超長且不可預(yù)測的道路網(wǎng)絡(luò)中運行，從而快速處理大量復(fù)雜變量，以確保安全。
受交通法規(guī)的啟發(fā)，研究人員正在制定一套規(guī)則，以幫助無人駕駛汽車在各種可能的情況下做出最安全的決策。為了使可信賴的無人駕駛汽車安全上路，研究人員對以上規(guī)則進(jìn)行了驗證，而這也是必須克服的最終障礙。
阿西莫夫第一定律
科幻小說家Isaac Asimov于1942年提出了“機器人三定律”。第一個也是最重要的定律是：“機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。”若無人駕駛汽車傷害人類，則顯然違反了第一定律。
英國國家機器人中心（National Robotarium）正開展一項研究以確保無人駕駛汽車始終遵守上述定律。這一保證將為各種嚴(yán)重安全問題提供解決方案，而這些問題正是阻礙無人駕駛汽車在全球普及的主要原因。
人工智能軟件實際上非常擅長學(xué)習(xí)新場景。通過使用從人腦布局獲得靈感的“神經(jīng)網(wǎng)絡(luò)”，此類軟件可以識別數(shù)據(jù)中的模式，如車輛和行人的運動軌跡，隨后在新場景中提取這些模式。
但我們?nèi)孕枳C明，無人駕駛汽車所學(xué)的所有安全規(guī)定可以應(yīng)用于新場景中。為此，我們可以采用形式驗證，即計算機科學(xué)家用來證明規(guī)則在所有情況下均有效的方法。
例如在數(shù)學(xué)中，無需測試x和y的每個可能值，可以證明x + y等于y + x。形式驗證下，不必詳盡測試在公共道路上可能發(fā)生的所有情況，即可證明AI軟件是如何應(yīng)對不同場景的。
近期在該領(lǐng)域取得的成就之一是AI系統(tǒng)的驗證，即使用神經(jīng)網(wǎng)絡(luò)避免自動駕駛飛機間的碰撞。研究人員已成功使用形式驗證方法證明該系統(tǒng)將始終響應(yīng)正確，且不會考慮所涉飛機的水平和垂直操作。
交通法規(guī)
為確保所有道路使用者的安全，人類駕駛員會學(xué)習(xí)并遵循交通法規(guī)，并在實際情況中正確使用。我們也可以使無人駕駛汽車學(xué)習(xí)這些法規(guī)，因此我們需要拆解法規(guī)中的具體要求，幫助車輛的神經(jīng)網(wǎng)絡(luò)理解并遵循每一條法規(guī)，隨后驗證他們在所有情況下是否能安全遵守這些法規(guī)。
但是，在檢查交通法規(guī)中的“絕不能”一詞的后果時，驗證無人駕駛汽車是否安全遵守這些規(guī)則變得非常復(fù)雜。為使無人駕駛汽車在所有場景中都能像人類一樣反應(yīng)靈敏，必須對這些法規(guī)進(jìn)行編程，并考慮到細(xì)微差別、加權(quán)風(fēng)險以及偶發(fā)事件。在上述情況下，不同法規(guī)會發(fā)生直接沖突，要求車輛忽略一條或多條法規(guī)。
該任務(wù)不僅僅需要程序員，還需要律師、安全專家、系統(tǒng)工程師和政策制定者共同完成。在新成立的AISEC項目中，研究小組正設(shè)計一種工具以促進(jìn)跨學(xué)科合作，從而推動無人駕駛汽車的道德和法律標(biāo)準(zhǔn)的建立。
完善無人駕駛汽車是一個動態(tài)過程，取決于法律、文化和技術(shù)專家在不同時期對完美的定義。AISEC工具正是基于此想法構(gòu)建，可提供“任務(wù)控制面板”（mission control panel），監(jiān)測、補充并改變無人駕駛汽車最成功的法規(guī)，隨后提供給汽車行業(yè)。
研究人員希望在2024年前交付AISEC工具的第一個實驗原型，但仍需創(chuàng)建自適應(yīng)驗證方法來解決當(dāng)前安全問題，這可能需要數(shù)年時間才能構(gòu)建并嵌入到自動駕駛汽車中。
自動駕駛汽車事故新聞總會成為頭條。在實驗室里，如果無人駕駛汽車可以識別行人，并能夠在99%的情況下及時停車，這類成就非常值得慶祝，但在真實生活中，它可能是一臺殺人機器。而通過為無人駕駛汽車制定可靠且可驗證的安全規(guī)則，可消除那1%的事故率。
