周鴻禕詳解人工智慧四大冰點 稱智慧音箱可能變身竊聽器

鳳凰網科技訊（作者/劉正偉）1月21日訊息，“現在智慧音箱開始融入很多家庭的日常，為我們的生活帶來了一定便利，但大家有沒有想過智慧音箱可能會變成竊聽器？”在昨天舉辦的中國人工智慧學會“人工智慧與安全專委會” 成立大會上，360集團董事長兼CEO周鴻禕當選首任專委會主任，他表示，智慧音箱變身竊聽器並不是科幻電影裡的場景。

據他介紹，360與浙大合作發現了一種“海豚音攻擊”，該攻擊人耳無法聽見，但通過超聲波訊號可以劫持智慧裝置的語音控制系統，再利用麥克風的硬體漏洞，就可以悄悄開啟語音助手，把智慧音箱變成竊聽器，竊取使用者隱私。

此外，“海豚音攻擊”還可用於攻擊多種擁有語音助手的智慧裝置，包括智慧手機、智慧手錶、智慧汽車等。伴隨著越來越多的智慧裝置介入我們的生活，人工智慧面臨的安全問題也令產學研各界持審慎態度。

周鴻禕指出，人工智慧是個熱詞，也是未來的大勢所趨。但當下的人工智慧技術並不完善，存在四大冰點：

首先、前端感測器可以被幹擾。人工智慧廣泛依賴音視訊採集、紅外感應、鐳射雷達等各類感測器。但這些感測器自身並不安全，能夠被幹擾，造成人工智慧識別和決策失誤。“海豚音攻擊”就是干擾語音感測器的方式之一。

其次、人工智慧的資料樣本可以被汙染。目前人工智慧採用深度學習模型，黑客可以構建畸形輸入或者汙染訓練資料集，進行“資料投毒”，導致人工智慧出錯。比如，通過給智慧汽車輸入“汙染”過的訓練樣本，就可以把“禁止通行”的交通標誌牌識別為“可以通行”，從而造成交通事故。

第三、內部演算法可以被欺騙。人工智慧本質上是一種用大量資料訓練出來的概率判斷系統，其內部複雜的計算邏輯和決策過程還不透明，可以被欺騙或繞過。周鴻禕表示，人工智慧也許可以有99.99%的概率保證識別是正確的，但是對於安全來講，它只要出現一次識別錯誤，就會造成嚴重後果。

最後、實現平臺有漏洞。周鴻禕介紹，當下的人工智慧系統都依賴開源的深度學習框架，存在大量漏洞，當前360研究人員已經發現了40多個深度學習框架的軟體漏洞。