周鴻禕:當下AI技術並不完善 存四大“冰點”
導語:周鴻禕還指出,人工智慧是個熱詞,也是未來的大勢所趨。但當下的人工智慧技術並不完善,存在四大冰點。
中國人工智慧學會“人工智慧與安全專委會”昨日在京成立,360集團董事長兼CEO周鴻禕當選首任專委會主任。他表示,智慧音箱變身竊聽器並不是科幻電影裡的場景。
周鴻禕稱,360與浙大合作發現了一種“海豚音攻擊”,該攻擊人耳無法聽見,但通過超聲波訊號可以劫持智慧裝置的語音控制系統,再利用麥克風的硬體漏洞,就可以悄悄開啟語音助手,把智慧音箱變成竊聽器,竊取使用者隱私。此外,“海豚音攻擊”還可用於攻擊多種擁有語音助手的智慧裝置,包括智慧手機、智慧手錶、智慧汽車等。
周鴻禕還指出,人工智慧是個熱詞,也是未來的大勢所趨。但當下的人工智慧技術並不完善,存在四大冰點:
第一、前端感測器可以被幹擾。人工智慧廣泛依賴音視訊採集、紅外感應、鐳射雷達等各類感測器。但這些感測器自身並不安全,能夠被幹擾,造成人工智慧識別和決策失誤。“海豚音攻擊”就是干擾語音感測器的方式之一。
第二、人工智慧的資料樣本可以被汙染。目前人工智慧採用深度學習模型,黑客可以構建畸形輸入或者汙染訓練資料集,進行“資料投毒”,導致人工智慧出錯。比如,通過給智慧汽車輸入“汙染”過的訓練樣本,就可以把“禁止通行”的交通標誌牌識別為“可以通行”,從而造成交通事故。
第三、內部演算法可以被欺騙。人工智慧本質上是一種用大量資料訓練出來的概率判斷系統,其內部複雜的計算邏輯和決策過程還不透明,可以被欺騙或繞過。周鴻禕表示,人工智慧也許可以有99.99%的概率保證識別是正確的,但是對於安全來講,它只要出現一次識別錯誤,就會造成嚴重後果。
第四、實現平臺有漏洞。周鴻禕介紹,當下的人工智慧系統都依賴開源的深度學習框架,存在大量漏洞,當前360研究人員已經發現了40多個深度學習框架的軟體漏洞。
“人工智慧無疑是下一輪技術革命的焦點,在技術高速發展的同時,如何保持這個技術更安全是重中之重”,周鴻禕建議,解決人工智慧時代的安全問題,能夠防範的唯一方法就是利用基於大資料的人工智慧,“希望通過開放資料、技術、能力和平臺,與產學研各界通力合作,真正把360安全大腦的產業生態做起來,在未來的國家安全、城市安全中發揮重要作用”。
(文章為作者獨立觀點,不代表艾瑞網立場)