也許哪一天機器人會覺得：刪除垃圾郵件的最好辦法是把人類一起幹掉
近年來，人工智慧（AI）技術已進入新的高速發展階段，是公認的最有可能改變未來世界的顛覆性技術。為此，世界許多國家已將發展人工智慧上升到國家戰略，從政策導向、戰略規劃、資金預算等各層面予以大力支援。本文展現了人工智慧的顛覆性技術可能帶來的影響以及人們對其的管控和憂慮。文章版權歸原作者所有，觀點不代表本機構立場。
人工智慧——將顛覆未來世界
作者：plus評論員 徐秉君
近年來，人工智慧（AI）技術已進入新的高速發展階段，是公認的最有可能改變未來世界的顛覆性技術。為此，世界許多國家已將發展人工智慧上升到國家戰略，從政策導向、戰略規劃、資金預算等各層面予以大力支援。
2017年9月1日，俄羅斯總統普京在雅羅斯拉夫爾公開講話中明確提出：
人工智慧不僅僅是俄羅斯的未來，也是全人類的未來。這包含著巨大的機遇和當今難以預測的威脅。誰能成為該領域的領導者，誰就將主宰世界。
此言一出，震撼西方世界。
人工智慧正在改變世界，也在延伸改變未來的無限可能
提起人工智慧，人們首先想到的是幾年前曾轟動一時的“人機大戰”。也許人們對當年“深藍”戰勝國際象棋大師卡斯帕羅夫記憶猶新，更為2016年3月，谷歌計算機圍棋程式“阿爾法圍棋”（AlphaGo）與韓國棋手李世石進行了一場令世界矚目的圍棋人機大戰，最終AlphaGo以4:1壓倒性優勢取得勝利而震撼。
這一結果既出人意料也在意料之中。人們不僅為人工智慧的“獲勝”而驚喜，同時也為人工智慧“超越”人類而擔憂。人們欣喜地感受到人工智慧（AI）技術的快速發展和巨大進步正在改變世界，與此同時也在延伸改變未來的無限可能。
但是，“深藍”與“阿爾法圍棋”（AlphaGo）卻有本質的不同。“深藍”充其量是一個將現有“知識”、“經驗”程式設計固化的產物。可是，AlphaGo卻與“深藍”不同，其本質區別在於AlphaGo具有類似於神經網路的學習進化功能。所以，“深藍”只不過是一個預先輸入了足夠數量“棋譜”的機器人， 而AlphaGo則類似於一名真正的智慧棋手，因為它具有深度學習功能，通過一定的訓練和學習，它可以憑藉意識和經驗自我應對對手套路。AlphaGo的自我學習依然是依靠神經網路完成知識的儲存和記憶。對於 AlphaGo，其每次自我學習的過程就是一個不斷修正程式內神經網路各節點關聯引數和權重係數的過程，從而利用多層網路、多個節點儲存足夠的圍棋知識資訊，獲得對映空間中圍棋規則下的優化目標。不難看出，人工智慧是人類對創造智慧體的一種嘗試，因而 人工智慧必須具備學習知識和運用知識兩大特徵。
人工智慧所顛覆的將是整個未來世界
隨著科學技術的快速發展，世界已進入一個全新時代，在這個時代中，強大的人工智慧以超乎想象的能力將滲入到各個領域，並試圖通過為政治、經濟、軍事和網路空間創造機會來模仿人類的認知能力，並以此來塑造未來全新世界。由此看來，人工智慧無疑是一項顛覆性技術，而它的廣泛深入的應用將改變人類生活的各個方面，所顛覆的將是整個未來世界。
人工智慧的最大優勢在於它能夠進行深度學習。深度學習的前身是人工神經網路(artificial neural network,ANN),基本特點就是試圖模仿人腦的神經元之間傳遞和處理資訊的模式。在機器學習中,神經網路一般就是指人工神經網路。因此，通過人工智慧可以解決人類能力有限的複雜問題。比如，在資訊時代的今天，面對海量資料，人類已沒有能力用這些資料在短時間內作出準確判斷，或者進行推論和預測，因為這些都需要強大的計算能力，而人工智慧則可以輕而易舉解決這類問題。
當日漸成熟的人工智慧AI技術廣泛應用於軍事領域，將會對未來戰場產生什麼影響呢？
僅從無人作戰系統來看，無人武器裝備的智慧化、自主化水平，必將影響甚至主導未來陸、海、空、天等各個戰場的作戰方式和作戰效能。由於無人武器裝備在現代戰爭中的佔據越來越重要的地位，因此隨著人工智慧技術廣泛應用，無疑將使無人武器裝備的智慧化程度大幅度提升。從戰略層面上看，人工智慧顛覆性地改變了威懾、攻擊和防禦的能力，從而成為世界主要大國之間爭奪地緣戰略、地緣政治和地緣經濟領導地位的重要工具和手段。
與此同時，人工智慧作為顛覆性力量正日已滲透到經濟領域，世界各國競相把人工智慧作為國家戰略重點發展，力爭在經濟上獲得對其他國家的更強的競爭優勢。西班牙皇家埃爾卡諾研究所網站刊文稱，人工智慧領域的國際投資自2010年以來每年增長約60%。有預測指出，就在2018年，全球20%的商業活動將與人工智慧相關，到2020年，人工智慧將承擔企業與客戶之間85%的互動。另外，根據麥肯錫全球研究所題為《人工智慧，最後的數字前沿？》的研究報告，領導數字化的技術巨頭將是那些在人工智慧方面投入最多的國家和企業。全球對人工智慧的投資已經超過了對汽車製造、金融服務、能源資源、媒體娛樂、運輸物流等領域的投資。
對人工智慧的“憂慮”與“管控”
科技進步使人工智慧的超強能力和巨大潛能日益顯現，但也由此引起人們對人工智慧的憂慮和恐懼。許多人擔心人工智慧在未來可能會擺脫人類控制，而人類則會被機器人奴役甚至消滅。
著名物理學家斯蒂芬·霍金曾指出：“它（人工智慧）可能是我們文明史上最重大的事件。或者是最糟糕的事件。究竟會怎樣，我們現在還不知道。”他還說：“人工智慧可能摧毀人類。”
人工智慧研究公司OpenAI的創始人馬斯克則提出：“也許哪一天機器人會覺得，刪除垃圾郵件的最好辦法是把人類一起幹掉。”
人們對人工智慧這類新技術的憂慮和恐懼不無道理，當一項新技術被髮明和應用後，往往是喜憂參半，因為當人們在為新技術欣喜的時候，同時也要承擔由此而帶來的風險及負面影響。就像當年發明核武器、生化武器一樣，問題的關鍵在於如何有效管控。
正像普京強調的那樣，一旦某個國家獲得人工智慧技術的壟斷地位，將給世界帶來風險。對此，普京表示：“如果我們成為這一領域的領導者，我們將與全世界分享相關知識，就像我們今天在核技術領域所做的一樣。”
那麼，如何對人工智慧進行有效管控？
有效的管控在於制訂行之有效的規則。從人工智慧發展的趨勢來看，目前世界正處於一個“遊戲規則改變”階段，因此必須在發展人工智慧的同時確立新的“遊戲規則”。就像當年為控制核武器而制定核不擴散條約，從而實現對核武器進行有效管控。實際上，建立人工智慧研究公司OpenAI的目的，就是制定規則以確保人工智慧不被用於邪惡目的。
因此，世界各國在發展人工智慧時，不僅要有戰略規劃、政策導向、資金投入，而且還要同步制訂控制風險保證安全的各項制度措施，以保證人工智慧在各個領域安全使用。
在國際層面上，國際組織應發揮積極作用。比如通過聯合國建立一個聯合國下屬的人工智慧國際機構，制訂相關條約，確保人工智慧研究的透明度，防止不同國家和民眾群體之間出現數字鴻溝，並負責提示風險管控危機，從而保證人工智慧健康發展造福人類。
宣告：本文來自安全內參，版權歸作者所有。文章內容僅代表作者獨立觀點，不代表安全內參立場，轉載目的在於傳遞更多資訊。如需轉載，請聯絡原作者獲取授權。