能定餐館的 Duplex 沒說自己是 AI，這會是人工智慧的道德困境嗎
最近遭受到道德困境的不只是基因編輯，還有人工智慧。
在今年夏天的 Google I/O 大會上，Google 向大眾展示了一項名為 Duplex 的 AI 新功能——代替你預約理髮或者餐館。
這項功能之所以這麼受人關注和讓人激動，最大的原因就它接近以假亂真的讓 AI 用自然語言和真實的人類交流，而人類甚至完全沒有意識到電話對面並不是真人而是來自 Google 的 AI。
▲ 圖片來自： ofollow,noindex"> 9to5Google
最近，這個服務終於在 Pixel 使用者群組中小範圍進行測試了。根據 VentureBeat 的 報道 ，目前 Google 正在緩慢推送這項服務，而不是直接正式開放上線，目前只在「精選城市」中的 Pixel「精選使用者」中測試，凡是支援這個服務的人上輩子大概都是被選召的孩子吧。
此外。這個服務目前功能上也非常有限——哪怕是對比 Google I/O 上演示版本。因為目前的測試中並不支援理髮的預訂（Google I/O 則專門演示了一段預約理髮的視訊），只集中在餐館預訂，此外一些餐館也因為一些不明原因無法支援。
向大眾開放 Duplex 是一項非常好的事情，我們終於能夠親自檢驗這個星球上在人工智慧領域的佼佼者究竟達到了何種地步。但是最近的一些測試中 Google Duplex 卻讓人們產生了一些擔憂，當然這不是說它在智慧方面超出大眾的估計，而是在整個對話過程中， Duplex 都沒有告訴對方自己是隻是一個 AI 服務。
當 Duplex 開始預約的時候只會告訴對方「這個電話來自 Google，並可能會被記錄。」僅此而已，之後它就會按部就班的開始餐館的預約，並在處理完成之後結束通話電話。
而這顯然跟之前的宣傳不符，The Verge 表示，在 Google 今年 6 月份釋出到 Youtbe 的宣傳片中，Duplex 會清楚的表示它是一個人工智慧服務，會表示這通電話是通過 Google Assistant 呼叫併為客戶進行預訂。
對於為何會出現這樣不同的處理，The Verge 表示 根據熟悉早期測試的人士說，這個測試並不完全由 AI 構成，即一部分呼叫來自真實的 Google 員工，而其他的部分則是來自 Google 的 AI 呼叫。所以 Google 沒有透露出這個人工智慧助理的資訊。
顯然，人和 AI 的界限在這裡被模糊了，因為 Duplex 聽起來已經和真人非常接近了，它會有停頓，會有各種各樣的語調和語氣詞。但對於大眾來說，這個測試會被理解為完全使用 AI 來進行，而在人和 AI 的對話中，人們非常需要 AI 表明自己的身份。
Venturebeat 表示 Google 需要找到一個完美的平衡：
準確而智慧，透明而誠實
另外，Google 也在自己的 部落格 向我們展示了 Duplex 究竟是如何工作的。
Google 表示這是一項通過手機來執行「真實世界」任務的新技術，而其中的核心就是面對自然語言的挑戰：自然語言難以理解，自然行為難以建模，需要快速處理以及使用恰當的語調進行自然語言發聲，都是其中的難點所在。
而 Google 也明確表示了透明度在其中是一項重要的部分，Google 需要明確的告知意圖而對方理解前後文，未來接個月 Google 還會在這方面繼續進行調整。
而讓 Google Duplex 的對話聽起來很自然則要歸功於 遞迴神經網路 （RNN），為了應對這些挑戰採用了 TensorFlow Extended（TFX）進行構建。而為了提高精度，Goole 還通過匿名電話的會話資料在語料庫上訓練 Duplex 的地櫃神經網路。他們還為每個場景專門對理解模型進行了訓練。最後通過理解、互動和時間完成Duplex 在「口語」上的進步。
最後 Google 表示，Google Duplex 朝著人類像和他人一樣與技術互動邁出了一步，自然語言與技術之間的交流在特定場景中成為現實。 Google 希望這些技術進步最終將有助於改善人們與計算機日常互動的體驗。
▲ 圖片來自： Medium
但就像最開頭的說的，與真人的界限的模糊更需要 AI 來先驗明正身，而不是裝作和真人無異對於人類來說是一件很重要的事情，或者說這件事需要這樣的一個儀式感。隨著技術的演化前進，AI 可能很快就在大部分語音接聽領域達到接近人類的水平，屆時關於人工智慧的倫理問題將會更加直白的擺到桌上。
從結果上講，人類並不願意和與真人幾近無異的 AI 進行對話，這會給他們一種不安全感，類似的事情其實也發生在外貌上，著名的恐怖谷理論看來不僅僅可以用在外貌上，在聲音上其實也有著相似的狀況。
而牛津網際網路學院的數字道德實驗室博士 Thomas King 就直接 表示 Google 的這項測試其實就是個騙局，假定人類和 AI 已經無法區分，那對於一個接線員它會認為自己一直在和一群機器對話（所以接線員也換成 AI 不就好了？），那他還能保持和以前一樣的溝通方式嗎？沒有禮貌和更粗魯是不是也沒有關係？哪怕接到了一個來自真人的電話，但這種想法或許已經在他腦海中揮之不去了。
▲ 科幻電影《HER》
對於人類來說，如何思考人與科技的關係已經是一個可以說已經是一個日經的話題，我們也不缺乏相關的科幻電影對其的想象，比如施瓦辛格主演的《第六日》就討論了人與克隆人的倫理衝突問題，而 2004 年《機械公敵》把阿西莫夫三定律帶到了大眾視野，電影《HER》則進一步探討了人類和人工智慧的情感的問題。
但等到 Duplex 把人類與人工智慧的關係在現實中擺出來時，人類可能才發現自己有多麼敏感和自我保護。對於 AI 沒有標明身份這件事上，我們已經衍生出了很多問題和想法，在人與人工智慧產生聯絡的過程中，雙方的地位、責任以及更多的事情都會變得難以認定。
▲ 圖片來自： Wired
某些時候，如果我們忽略一些 Bug 問題，其實計算機是比人類更完美的一種形態，他們能確實的反應出你的行為和如實給出你要的結果，但隨著人工智慧模擬真人越來越像，我們可能反而更加容易和 AI 產生矛盾和摩擦，導致與我們預期的結果不符或者受到其他損失。
因為，人類就是如此不完美的生物啊。