騰訊安全平臺部總監胡珀《IoT + AI + 安全 =？》
我們分享的第三個重磅內容，來自 騰訊安全平臺部總監胡珀（lake2） 帶來的—— 《IoT + AI + 安全 =？》 。
這是一個很有趣的標題，也是一個大家期待許久的標題，IoT 與 AI 在安全上究竟會碰撞出怎樣的火花？
這幾年很明顯就能感覺到 AI 與 IoT 技術發展迅猛，對我們整個安全行業其實是一個好訊息。因為隨著智慧裝置、AI 的發展，安全問題的影響也變的不同，比如過去的安全可能只是你的錢被盜了，那都有支付保險可以讓廠商賠付。現在被盜的是我們的隱私，比如說AI音箱會放在臥室、客廳，處於使用者的敏感生活區域；還有車聯網安全問題對我們的人身安全會形成很大的威脅，所以說這些機遇對於我們安全從業者來說其實是個好事。
現在經常聽到智慧+，比如我們去超市買個東西可以刷個臉，現在微信支付正在做刷臉功能，以後你買東西直接看一下臉就可以了。但是這裡也有一個問題，比如我模擬別人的臉，那會不會把這個錢算在別人的頭上，這裡都有一系列安全的問題。包括我們的無人超市、自動駕駛，特別是未來幾年智慧化的裝置發展會非常快。
新技術的發展一定會帶來新的安全問題，我們覺得問題主要來自以下方面：
-
手機APP端問題
-
硬體自身問題
-
雲端問題
-
APP到雲端間的通訊問題
從大的方向來看的話主要是這四個方面潛在的安全問題，我們去挖掘智慧裝置漏洞，主要會從這四個方面出發。
隨著時代的發展，我們看到黑產也開始利用 IoT 裝置做一些事情。我們現在每天都在對抗DDoS攻擊，今天發現它是個路由器，明天發現它是個攝像頭，這種來自IoT的攻擊越來越多。我猜想這應該是得益於攻擊程式碼的開源化了。這個是我們統計的 IoT 攻擊趨勢，下面這個圖是我們團隊把被黑的 IoT 裝置做了一個統計，大概是這樣一個趨勢。右邊是抓到的一個專門攻擊 IoT 的程式碼片段。
下面具體介紹一下我們在 IoT 裝置上發現的一些問題，首先 AI 音箱目前賣的比較火，但是它本身也存在一些不安全的因素，問題還是前面我說的四個點裡。只要我把音箱拆掉，把韌體 dump 出來分析，再把自己的程式刷進去，就可以把這個音箱做成監視器，本來需要一個語音指令喚醒，但再修改之後就會把聲音記錄下來，傳輸到雲端，這個我們已經實現了。
另外一個是我們對智慧樓宇做了一個測試，在深圳的騰訊新大廈就是一個智慧樓宇的典型，我們就發現它裡面很多燈是可以用手機APP或者遠端控制的，包括內部的插座插線板窗簾都可以控制。然後我們就對智慧裝置進行的一些破解，發現協議其實是有問題的。為了做黑客模擬攻擊掩飾，我們在無人機下面掛了一個訊號發射器，飛到36層會議室外發射訊號，把裡面的燈控制了。基本上智慧樓宇能夠控制的東西我們都能控制，等於拿到了最高許可權。這也是用一個實際的案例來證明未來我們的智慧裝置會帶來很多的安全問題。
還有就是劫持無人機，這個是在 2015 年研究智慧裝置的時候發現的，通過模擬訊號遠端把飛機給控制了，技術上解決調頻的問題就可以。
還有攝像頭，2014年的時候有一波熱潮，很多傳統的廠商開始做智慧攝像頭，但他們並沒有足夠的網際網路安全經驗。在裝置執行的時候，我們用遠端攻擊的方式就可以把攝像頭視訊替換掉，比如讓一個物體或者一個人憑空消失，未來這種攝像頭如果應用到了安防監控中，壞人要幹一些事情，他是可以把自己憑空消失掉，查不到證據的。
今天要講的另一個問題就是AI，大家知道醫療行業已經用 AI 看片子識別疾病了。但是AI本身也有問題，主要有三類：
-
演算法自身的問題 比如說它去識別圖象，它去識別語音，其實需要大量的資料和樣本。大家有沒有想過如果這些資料本身是有問題的，AI 拿到之後識別就會受到影響。
-
傳統的問題 它會捕捉視訊，也會捕捉照片，還有就是有網路協議的傳輸，這可能面臨一些傳統安全問題，比如說溢位攻擊。
-
AI技術的濫用 我們發現黑產也開始利用 AI 技術，比如識別驗證碼，成功率非常高。還有用 AI 來實施詐騙，我們接電話的時候，有個人跟你對話，其實它是AI並不是人，但是你聽不出來。
AI 影響比較大的一個方面就是無人駕駛，比如覆蓋一個特定的攻擊圖層。左邊是原始的，右邊是修改後的圖片。如果是人來開車的話就沒有問題，但如果是自動駕駛系統的話可能就有問題，它可能認為直行可右轉。
還有被汙染的AI，現在很多的AI系統會用到谷歌的人工智慧的TensorFlow。這裡的問題主要是兩類，一類是溢位，比如處理圖片檔案時，可能由於處理不當導致溢位，進而拿到它的許可權。另外一類是它處理這種模型檔案，如果這個模型檔案有問題，我也可以拿到它的許可權。
最後是被黑產利用的 AI，AI演算法可能會被用於破解驗證碼，我們測了一下它的識別率挺高能夠達到 95%，比傳統的OCR技術厲害得多。它會把驗證碼切割好之後傳送出去，拿大量的特徵先用人工學習，學習之後會產生一個模型檔案。某一類的驗證碼學習完成後，AI有針對性地去識別和破解，破解率當時也是挺高的。我還覺得奇怪，好像沒有見到OCR技術破解效果這麼好，後來是聯合警方把這個團隊抓獲之後，發現他們其中有一個是博士，專門去做這方面的研究。
現在我們把 AI 應用到安全領域主要是三個方面，第一是向傳統的生物特徵轉變，另外一個是一些工具可能會把我們的深度學習、機器學習，或者是神經網路的演算法應用到我們的這個領域。還有就是實戰效率提升，本質上就是把AI和傳統安全結合起來，簡單可以理解為是一個AI和傳統特徵的一個結合，避免漏報誤報。
未來隨著IoT和AI的應用，一定會帶來更多的安全問題。當然，有挑戰就用機會，它對我們安全層面是一個很好的機會。所以建議大家去看這個安全，我覺得很有搞頭。第二，我們可以把AI應用到特定的安全場景，這個領域還是需要大家一起去探索和多多交流，因為這也是一個啟蒙階段。
PPT下載連結： https://cnbj1.fds.api.xiaomi.com/src/xiaomi-IoT-security-conference/IoT%20%2B%20AI%20%2B%20%E5%AE%89%E5%85%A8%20%3D%EF%BC%9F%20-%20%E8%83%A1%E7%8F%80.pdf