達沃斯論壇激辯：如何為人工智慧制定規則
編者按：本文轉自 創新工場 ，36氪經授權轉載。
人工智慧技術的飛速發展，將有機會重新定義未來人類工作的意義以及財富的創造方式，帶來前所未有的經濟重塑，甚至改變全球的權力格局。正因如此，全球各地的經濟體都在致力於制定相應的戰略計劃，以期在人工智慧賽道的競爭佔據優勢。
當地時間 1 月 24 日晚，美國《連線》（Wired）雜誌總編 Nicolas Thompson 在達沃斯世界經濟論期間主持了一場圍繞「為人工智慧競賽制定規則」的主題探討，創新工場董事長兼 CEO 李開復、印度國家發展改革研究院（NITI Aayog）CEO Amitabh Kant、紐約大學斯特恩商學院助理教授 Amy Webb、西門子主席監事會主席 Jim Hagemann Snabe 以及對衝基金 Tow Sigma 聯合創始人 David Siegel 五位來自產學界前沿人士參與了這場激烈的討論，分享了各自關於如何為人工智慧制定規則、如何看待人工智慧時代資料安全等問題的觀點。
▌如何為人工智慧制定規則？
李開復：當技術的出現帶來一些問題時，我們需要制定相應的規則。
眼下人工智慧技術曾經發生的一些問題基本屬於意外或是某些公司的失誤。人們在很大程度上對人工智慧擁有誤解，存在偏執和炒作現象，我們應該去看看人工智慧的實際價值。
當我們在談論人工智慧時，其實談論的是機器學習、深度學習，它本質上只是一個幫助人類的工具，出現問題的根源往往來是人為的錯誤。
在某種意義上，規則已經存在了——人工智慧技術應用於銀行，就有了新的銀行規則；人工智慧技術應用於車輛，就有了新的交通規則。在這裡，資料規則是其中的核心。
在是否需要制定規則、制定什麼樣的規則問題上，不同的國家和文化對此有不同的看法。我希望世界經濟論壇與 AI 委員會能夠幫助大家分享想法，讓更多的公司和國家直接進行溝通與對話，減少對彼此的誤解。
創新工場董事長兼 CEO 李開復
Amy Webb: 目前，全世界有 9 家公司正在掌控人工智慧的未來，其中 6 家來自美國，即 GMAFIA ，也就是谷歌、微軟、亞馬遜、Facebook、IBM、蘋果，3 家來自中國，分別為百度、騰訊、阿里巴巴。我們應該關注這些巨型企業的動向，因為他們不僅僅編寫軟體，也在構建框架，甚至是消費者行為等方面都擁有話語權。
這裡的挑戰其實在於，能夠代表我們去制定人工智慧未來規則的人只是少數，其實我們都將受到人工智慧影響力的輻射，幾乎每一個消費者都會在某一個時間點接觸到上面提到的幾家公司。
紐約大學斯特恩商學院助理教授 Amy Webb
David Siegel：今天，人工智慧只是在計算機中執行的一行行程式碼，我們其實很難區分人工智慧軟體和常規軟體的區別。制定規則的重點在於，如何處理軟體和大資料的交叉部分。在我看來，最重要的問題其實都集中在資料上面。
對衝基金 Tow Sigma 聯合創始人 David Siegel
Jim Hagemann Snabe：人工智慧是最具影響力的技術之一，我們必須給予其足夠程度的關注。但我認為，現在我們在人工智慧的應用上並不是很聰明，現在是時候利用這項技術來解決一些更為重要的問題了。
對我來說，制定規則的重點在於對資料的訪問以及如何以開放的方式利用平臺。如果我們不允許人們平等地訪問資料和平臺，那麼未來將面臨很嚴峻的問題。
西門子主席監事會主席 Jim Hagemann Snabe
Amitabh Kant：在印度，人工智慧技術和資料都是政府公有的，在我看來，印度所面臨的挑戰與西方世界截然不同。
我們相信人工智慧會改變人類的生活，我們的關注的重點是，如何通過人工智慧技術最大程度挖掘資料的價值，以科學的方式來改變公民的生活，例如向醫生提供更好的影象資料，幫助學生提高學習效果、在農業衛生等領域發揮作用等。
印度國家發展改革研究院（NITI Aayog）CEO Amitabh Kant
▌如何面對人工智慧時代資料安全和倫理問題？
Amy Webb: 現在用來訓練演算法的資料通常都來自幾個相同的資料集，這些系統會對我們的生活做出決策。大多數人是不知道他們的資料是如何被系統收集並商業化的。我們所邁向的未來裡，可能會有一到兩個組織持有我們的個人資料。
人們對人工智慧的探討將是一場長達數年的旅程，挑戰在於我們無法推遲這件事的發生。我們現在能做的，就是把自己掌握的資訊反饋給各自的組織機構，並努力推進自己對這些問題的思考。
David Siegel：可以先看看我們正在使用的舊規則。在談到人工智慧的工作方式時，人們可能會對計算機自動做出決策而感到不舒服。但事實上，計算機已經在很長一段時間裡在做這樣的事情了，例如，飛機在大部分時間裡都是由機器接管的。
人工智慧的發展程序要比大多數人想象的要慢，這不意味著我們不會取得進展，但我認為我們不可能在有生之年進入機器完全接管的恐怖狀態。
Hagemann Snabe：我很擔心人們對於人工智慧技術的想法過於天真。在使用人工智慧技術並將其用於某些極端情況時，訪問個人資料和保護隱私安全之間的界限在哪裡？在構建平臺的同時避免壟斷，如何實現？演算法開始自主學習，相應地人類就要失去控制權，如何平衡？
我們需要了解資料的使用方式以及被用在哪裡。消費者必須擁有對他們的個人資料處理、選擇的權利，這是一個基本原則。在這樣的原則之下，我們才會更好地使用這項技術，用人工智慧幫助人類提升能力，而非取代人類。
人工智慧可以解決世界上的許多問題，西門子願意共享資料以避免形成壟斷，例如分享西門子在醫療領域資料以改善治療水平。我們沒有理由去做資料壟斷，這會扼殺所有的小型公司。
Amitabh Kant：我們需要規範，但是引入太多的規則會扼殺創新。我們的目標是利用人工智慧技術給人們帶來利好且不會帶來威脅，那麼建立一個全球聯盟就非常重要，類似於歐洲核子研究組織（CERN）對粒子物理學的存在。通過聯盟從實踐中學習、從彼此身上學習，從而讓人工智慧技術變得更好。
資料就像一條公路，你要向公路公開所有的資料。我們相信，所有的資料都應由公共政府持有，這些資料都應被公開，最終的受益者會是消費者。
李開復：人工智慧只是一項能夠改善我們生活的工具。之前亞馬遜的人工智慧招聘工具曾經曝出性別歧視的情況，其實這些問題是可以通過大型資料集來解決的。可能有人會懷疑人工智慧說它存在偏見，但我保證，如果在簡單系統上使用正確的資料集，它的偏見會比人類要小。
在不侵犯個人資料隱私的前提下，共享資料是一件很好的事情，收集到更多的資料將有助於促進人工智慧技術的研究與發展。我曾是一名癌症患者，我願意將自己的相關資料貢獻給研究人員，相信大多數癌症倖存者也都是一樣的。
我們需要讓人們知道人工智慧可以做什麼、不能做什麼、在哪裡能創造規則，在哪裡不能。而不是盲目的對人工智慧抱以恐懼或管制的態度。試圖要找到一個普適性的方法並不是、也不可能是最終解決方案，關鍵在於分享彼此的實踐經驗。我很希望一年內，我們將有人願意分享自己的實踐成果，展開更多具有實質價值和指導方向的對話。