自動駕駛的疑點重重, 再次印證了科技的「非理性繁榮」
公眾號/機器之能
來源 | ACM
作者 | Vijay Kumar
編譯 | 高璇
特斯拉 CEO 馬斯克對全自動駕駛的短期實現，有著近乎瘋狂的執念。最近，他又在第四季度財報的電話會議上表示，特斯拉汽車在今年年底前能實現全自動駕駛，無需人類干預。
馬斯克還表示，特斯拉在高速公路上已經可以實現全自動駕駛。然而，早在 2015 年，馬斯克曾吹牛特斯拉有望在未來兩年擁有完全自動駕駛技術。
資料科學和機器學習的進展讓不少創業公司「相信」（背後動機各異）所謂的通用人工智慧距離我們並不遙遠，成功案例都被不當誇大，由此衍生出很多不負責任的言論甚至不顧惜大眾利益（隱私、安全甚至生命）的舉措，比如自動駕駛公司先推出軟體，卻沒有驗證。
在這篇文章寫於去年 8 月的文章中，作者 Vijay Kumar 以非常簡練而又不失洞見的文字刻畫出當前有關 AI 種種「非理性繁榮」，並分析出導致這些現象的主要原因。
作者在文章最後指出，當我們賦予物理系統智慧，當涉及社會大眾的資訊和資料時，真正的核心問題到底是什麼。
Vijay Kumar 是誰？他是美國賓夕法尼亞大學工程學院的 Nemirovsky Family 院長，同時也任職於機械工程與應用機械學系、計算機與資訊科學系以及電子與系統工程系。
作為機器人與無人機領域的權威學者，Kumar 也是美國機械工程師學會會士、美國電氣和電子工程師協會會士、國家工程院會士。
我相信許多人還記得 1995 年的 Netscape IPO，以及四個月內股價漲了五倍的情景。人們對技術及其影響的期望仍然很高。
而時任美聯儲主席的格林斯潘在美國企業研究所發表演講時，對市場和科技中的「非理性繁榮」提出了質疑。
我相信，今天的科技領域也出現了類似的「非理性繁榮 」 。
用於癌症篩查的革命性技術——僅刺破手指抽取千分之一的正常血量——真的可行嗎？
當然，Theranos 讓每個人都相信這種革命性的進步的可能性，不是因為化學領域的新技術，而是因為他們開發了新的軟體和自動化技術！
我們真的能用馬斯克 Boring 公司挖的地下通道取代洛杉磯的 800 萬輛汽車嗎？
這種「自動化」能讓我們以遠低於正常的成本實現這種高速吊艙，其時速將達到 150 英里/小時，執行費用每次僅 1 美元——這就是 Boring 公司向洛杉磯市出售產品的廣告語。
資料科學和機器學習的最新進展，真的意味著通用人工智慧即將到來嗎？這是今天許多創業公司所堅信的。
實際上，統計機器學習已經取得顯著進步，尤其是在計算機視覺和語音識別等領域，因為基礎神經網路可以通過足夠大、有代表性的資料集進行訓練。
「足夠大」意味著什麼？我們還不知道。我們也不知道何為有代表性的資料集，很多有趣的案例證明了深度學習「有效」。
但是，這些成功案例都被誇大了。
在我自己的 機器人技術領域 ，自動化十分具有挑戰性，特別是在操作和感知-動作迴圈的任務中。然而，儘管說的天花亂墜，但現在最好的機器人都不如一個三歲孩子靈活。
在無人駕駛領域，這種非理性繁榮無處不在。
沒有多少人知道，無人駕駛汽車的首次演示是在 20 世紀 80 年代後期，在慕尼黑聯邦國防軍大學和卡內基梅隆大學進行的。毫無疑問，無人駕駛會產生巨大的社會、經濟和環境影響。
在過去 30 年裡，這一事實以及實現這一願景的技術挑戰吸引了一群頂尖的科學和工程人才。然而，有一個歷史問題我們都忽略了，因為三十年都未能解決的問題不太可能吸引到大量的私人投資。
根據最近的預測，全自動駕駛汽車即將問市。奧迪和特斯拉幾年前承諾說到 2018 年可實現完全自主。
優步甚至承諾，2023 年能推出由清潔能源驅動的汽車，儘管電池技術背後的基本物理和化學知識告訴我們事實並非如此。
當工程師提出這類想法時，令人擔憂；當企業家利用這些想法籌集鉅額資金時，更令人擔憂。
然而，最大的問題是在如何將自動化軟體嵌入安全系統當中。
測試與日誌資料、以及保證不會產生不必要和不安全行為的軟體驗證之間，存在差異。我們能否只因為底層軟體已經通過十億英里的資料測試，就宣稱無人駕駛車輛安全呢？
美國國家安全委員會的統計資料顯示，人類平均駕駛十億英里會導致 12.5 人死亡。 十億英里的資料集不可能被視為「足夠大」，或「有代表性」，被用來訓練軟體以防止人員死亡。
Uber-Waymo 的案件披露了一系列檔案。
這些檔案揭示了一種現象，它優先發布了軟體，而沒有經過測試和驗證。對於可以後續修正的手機系統，這樣可以接受，但 對於汽車軟體來說，這完全不能接受 。
這種非理性繁榮，可能源於五十年前摩爾預測的計算和儲存技術的指數增長。
十多年前，智慧手機、雲端計算和共享汽車似乎是科幻小說的情景，3D 列印和 DNA 測序等技術也難於登天。而如今，這些正在成為事實。
指數增長的事實滋生出一種 外推（extrapolation）文化 。
比如，最近 Alpha Go 和 Alpha Zero 在國際象棋等棋盤遊戲中取得的進步令人難以置信。
但不幸的是，我們由此外推出這樣的結論：征服這類通用智慧，只是一個時間問題。
至少有一個觀點認為，儘管摩爾定律帶來了計算力指數增長，事實上，我們在智慧理解方面，並沒有取得重大進展。
雖然計算機在國際象棋中取得了驚人的表現，但在過去 30 年裡，國際象棋程式的 Elo 評級只是呈線性增長而已。
如果我們能夠充分利用摩爾定律，那麼，國際象棋程式的表現應該比 30 年前好十億倍，而不是僅僅好 30 倍。
這表明，技術的指數增長可能不適用於人工智慧領域，更不用說能源儲存、生物技術、自動化和製造業了。
不幸的是， 科技上的非理性繁榮還導致了一個更大的問題——學術與產品欺詐 ，這是每個工程師和電腦科學家都要警惕的。
作為專業人士，我們有責任揭露這種學術不端的行為。
當賦予物理系統智慧時，驗證、安全性和責任必須是核心問題。
事實上，對於社會中的資料和資訊，公平、問責、透明度和道德問題（fairness、accountability、transparency、ethics，FATE）也需要被解決。
好在這些好風氣在業界和學術界中正在逐漸形成。
作為教師，我們肩負著更大的責任，因為技術不再僅限於電腦科學家或工程師。
事實上，技術現在已成為一門新興學科。但這門學科的 關鍵是要闡明技術的邊界，並警惕外推帶來的真實危險 。
對於每個具有創造性的大學生，無論是物理方面還是軟體工具，都必須對問責制，透明度和道德責任的基本問題保持高度警惕。
重要的是，我們要解決技術中的 FATE，不僅要在資料科學的背景下，更要通過技術實踐的設計、綜合和簡化。
原文連結：https://cacm.acm.org/blogs/blog-cacm/230472-irrational-exuberance-and-the-fate-of-technology/fulltext