吊打人類玩家的 OpenAI 又憋了個大招，可擔心被濫用不敢釋出
這幾天關於演員翟天臨博士學位造假和論文抄襲的事情鬧得沸沸揚揚，有人調侃如果翟天臨如果在春節期間不眠不休把論文趕出來或許就沒事了。
如果寫個標題和開頭，系統就能自動生成一篇合格的論文那該多好。這是多少為了畢業論文頭禿的大學生的夢想，雖然這不值得鼓勵，但 AI 已經開始能做到類似的事情了。
▲翟天臨肯定很想要一個這樣的 AI
馬斯克牽頭成立的 AI 研究機構 OpenAI 最近釋出了自然語言處理（NLP）模型—— GPT-2 ， 你只要為它提供一小段文字，它就能根據自己的理解來編寫餘下的內容，編小說寫新聞都不在話下。
英國 《衛報》 在 GPT-2 上輸入了作家喬治·奧威爾代表作《1984》的開頭的第一句話：
四月間，天氣寒冷晴朗，鐘敲了十三下。
AI 接下來生成的文字雖然和小說原文不一樣，卻領悟到了原著的反烏托邦氣質和未來主義氣質，敲出了下面這些文字：
我在前往西雅圖尋找新工作的路上，我把汽車啟動，想象著那一天會是怎樣。在 2045 年，100 年後的今天，我在中國貧困山區的一所學校擔任教師，開始教中國歷史和科學史。
OpenAI 研究團隊甚至給了 GPT-2 一個看起來違反常識的觀點——「為什麼回收對世界沒好處？」讓其去論證這個觀點，據 OpenAI 加州實驗室副總裁 David Luan 表示 ，GPT-2 寫了一篇十分不錯的論文，「是在 SAT（美國高考）上都拿到高分的水準」。
▲GPT-2 正在生成一篇關於暴風雪的文章. 圖片來自：OpenAI
不過這種創造力用在新聞撰寫上就會出現一些問題，來看看這個 AI 根據一句話而 撰寫 的新聞訊息：
在唐納德·特朗普意外地發射導彈後，俄羅斯向美國宣戰。
俄羅斯方面表示，已經確定了導彈的軌跡，並將採取必要措施，以確保俄羅斯人民和本國戰略核武器的安全。白宮則表示，此舉是為了迴應俄羅斯違反《中程導彈條約》。
自 2014 年莫斯科吞併烏克蘭克里米亞地區，並支援烏克蘭東部的分離主義分子以來，美國和俄羅斯的關係一直不穩定……
整篇新聞稿只有第一句是人工輸入，後面全部都是 AI 腦補的，但這些內容不完全是虛構。俄羅斯確實在本月初 暫停履行《中程導彈條約》 ，不少媒體也表達了對美俄軍備競賽升溫的擔憂。
雖然這明顯是篇假新聞，但這種真假摻半的描述，同時契合了輿論的氛圍，確實可能會讓一些人信以為真，如果這種能力被用於批量生產假新聞，類似用「AI 換臉」技術生產小黃片的事情可能再次發生。
這也出乎了 OpenAI 的預料，OpenAI 政策主管 Jack Clark 表示「無法預測這個模型所有的能力，你必須不斷測試」，於是在發現這個工具可以輕易生產虛假訊息和惡意內容後，OpenAI 選擇不披露或者釋出軟體的複雜版本。
也就是說，現在看到的 GPT-2，其實並沒有發揮全部的能力。
可能不久之後，AI 就能完全掌握編造假新聞、假推文和更具說服力的錯誤言論。我認為只要一兩年，它就能用於造謠和宣傳。
正是出於這樣的擔憂，OpenAI 在沒有成熟的應對方案前決定不開放這項技術，同時希望學者和公眾在這項技術被廣泛應用前對這種技術潛在的風險有更多瞭解。
儘管這可能是個潘多拉魔盒，但對於 AI 理解人類語言這個難題上卻有很重要的意義。去年 Google 也推出了演算法 BERT，它可以理解並回答問題，卻不得不依賴人工製作的語法規則和精心標記的資料集輔助。
在通過國外論壇 Reddit 上 800 萬個帖子、15 億引數的訓練後，GPT-2 逐漸學會了像人一樣閱讀和理解，其輸出所有內容不是簡單的複製貼上，而是在對素材理解後重新輸出的新內容。
艾倫人工智慧研究所的研究人員 Ani Kembhavi 表示 ，之所以對 GPT-2 感到興奮，是因為預測文字被視為計算機的「超級任務」，一旦解決這個問題，將開啟新的大門。
這也是這項技術帶來的積極一面，對於遊戲中的虛擬角色和二次元裡的虛擬偶像，可以更像一個人。同時也將大大提到人工智慧客服的能力，減少大量人力成本。
▲ 跟 AI 談戀愛的日子可能不遠了. 圖片來自：電影 her
到底這項技術會給我們帶來什麼，連開發 GPT-2 的 OpenAI 都不知道，不過如果你把這個問題拋給 GPT-2 ，它會給你一個 肯定的答案 ：
人工智慧正以最快速和最積極的方式改變我們的生活。AI 將允許機器人、計算機與我們一起工作，甚至可以使我們能夠與其他智慧代理一起工作，無論他們是人還是機器。
這就是未來，人工智慧正在引領我們走向想象中的未來。