谷歌新任AI高管Andrew Moore:“恐怖場景”或將帶來人工智慧發展瓶頸
【獵雲網(微信號:)】9月14日報道(編譯:葉展盛)
不少人對人工智慧非常忌憚。可以這麼說,科幻電影裡刻畫的那些“錯誤進化”的冷酷機器影響了公眾對人工智慧的看法。
但該領域裡的三位專家表示,人們感到不安也是有合理的原因。儘管電影《終結者》還沒變成現實,但卡內基梅隆大學計算機學院的主任Andrew Moore表示,某些情景下的人工智慧的確會給人們帶來威脅。Moore很快將成為Google Cloud AI的主管。
去年11月,Moore播放了名為《人工智慧和全球安全倡議》的幻燈片,他表示:“如果發生了人工智慧引發的災難,例如無人駕駛汽車因為系統漏洞撞死了人,坦白說我認為這已經發生了,那麼某些人工智慧系統將被封鎖,至少在美國地區是這樣。”
“有太多讓人害怕的場景,我就不一一敘述了,我們真的很擔心這些事情的發生,它們有可能引發機器人研究的全面封鎖。”Moore說道。
而Moore發表宣告的同時,大量的風險資金湧入了人工智慧領域。
谷歌、微軟、IBM、亞馬遜、Facebook等公司競相研究這種技術。谷歌執行長桑德爾·皮查伊曾表示,對人類發展而言,人工智慧的重要性將超過電和火。
儘管如此,也有研究人員表達了這種技術的擔憂,警告稱人工智慧一旦被用於歧途,將帶來嚴重的後果。
上週,谷歌中國的前總裁李開復預測人工智慧將為許多行業帶來變革,並創造出大量的財富,但這些財富最終會集中到少部分人手裡。他聲稱,有了人工智慧的幫助,企業擁有者能省掉大量勞動力,讓他們曾經的工作實現自動化。
“因此人工智慧會創造出新的富翁和平困人群。”李開復在2018年的舊金山人工智慧大會上說道。
在這個大會上,紐約大學AI Now的聯合創始人Meredith Whittaker描述了埃隆·馬斯克和馬克·扎克伯格等技術人員正在尋找人類通過思想控制機器的方法。她預測在不遠的將來,這種技術就會出現,它能理解和儲存我們的想法。
Whittaker又丟出了第二個問題:那麼如果一家公司能蒐集它客戶的想法並進行記錄,將發生什麼事情?她認為這種可能“很恐怖”。
同樣“恐怖”的是,人工智慧系統對人類情感的理解能力逐漸加強。
“直到三四年前,計算機視覺和語音處理的進步,使得機器可以識別人、物體,並將口頭語言轉換成書面的語句。現在我們已經可以再進一步,手機上攝像頭的解析度已經能看到臉上的瑕疵,並利用它們的運動來追蹤整個面部面板。”Moore說道。
“通過面部追蹤,你可以識別出臉下的哪塊肌肉在運動。利用已有的心理學知識,加上肌肉的運動,你可以檢測出面部動作和細微的情緒,甚至有時候人類自己都沒意識到。”Moore補充道。“這意味著我們能夠識別出物件在講話過程中的激動、喜悅、恐懼和輕蔑。”