邁入人工智慧時代 如何構建網路安全空間
新一代人工智慧(AI)正在全球範圍內蓬勃興起,為經濟社會發展注入了新動能,同時也正在深刻改變人們的生產生活方式。
新的問題是,在人工智慧時代,應該如何為使用者隱私監管保駕護航?公鏈中應如何進行保密交易?更重要的是,如何構建一個安全的網路空間?
9月18日,作為國家網路安全周的重要組成部分,以“創新安全改變未來”為主題的“網路安全新技術發展”分論壇在成都舉行。中國工程院院士沈昌祥、中國科學院院士朱中樑、中國信通院泰爾系統實驗室無線技術部主任秦巖、啟明星辰副總裁吳海民、香港理工大學教授區文浩等嘉賓圍繞這些前沿問題展開了討論。
“AI將對網路安全產生巨大的影響”已成與會者的共識,正如朱中樑所言,網路安全問題是“無休止的”,如何用好人工智慧這把“利刃”,需要更多探索。
新技術帶來便利也引發風險
儘管成都與上海相距千里,在這場關於網路安全新技術的論壇上,17日在滬舉行的“2018世界人工智慧大會”依然被嘉賓們提起。
“馬雲講到大資料是生產資料,在AI裡面它需要機器智慧晶片,也需要人類的智慧思想,從機器角度來講,它既是一個很好的執行者,也有可能是一個很強的破壞者;馬化騰也講人工智慧需要可支、可控、可用、可靠。”秦巖說,AI有很多優勢,可以幫助我們完成很多複雜和危險的環境當中自己不可能做到的事情,但隨之而來的風險也是巨大的挑戰。
秦巖表示,如果說資料是“新的石油”,那麼,資料保護就是新一輪的環境保護。從現狀來看,情況並不樂觀——以最近流行的智慧音箱為例,它可能在你不知情的情況下把你的錄音發給陌生人,或者它可以被控制成為你家裡的一個監視器,在提供便利的同時也監視你的生活。
用秦巖的話說,在這個時代,每一次點選、支付、下載,都有可能會洩露個人資訊,包括電話、微信號、家庭住址等,都可能通過網際網路應用當中暴露在網上。
因此,他提出,雖然存在使用者隱私保護機制,但既然存在風險,人工智慧系統使用者隱私保護也就需要監管。秦巖希望通過主動防禦來降低風險:“從趨勢來看,我們希望創立一個AI系統使用者保護監管體系,另外適用於這種體系,我們要有評估方法,要有監管的要求,能夠提升我們現在的監管技術手段。當然,還要促進AI行業企業自律,避免他們對資料進行濫用,侵犯個人隱私權。”
在論壇現場,“人工智慧”成為熱議焦點,多位專家指出,人工智慧未來會對整個網路安全帶來巨大的影響,雖然其對提高防禦能力可能帶來很大的進步,但也很可能產生極大的危害,如“雙刃劍”一般。“所以我們希望通過區塊鏈等技術,為資料保護找到更好的解決方法,畢竟人工智慧的成功也離不開資料。”一位參會嘉賓向記者表示。
網路“靶場”急需建指標體系
新技術帶來的影響,可能比想象中的還要大。吳海民表示,萬物互聯時代已經到來,預計到2020年,全球物聯網裝置數量將達到204億臺,物聯網所帶來的產業價值或將比網際網路大30倍。
但同樣的,在帶來便利之餘,物聯網潛藏的巨大安全隱患也已浮出水面。吳海民認為,需要用一種新的安全思維來構建IOT(物聯網)安全共同體。
他解釋說,首先從心態上來說,物聯網產業已經不再回避安全問題,而是和安全產業攜手共建、開放合作,共同推動IOT市場高速安全發展;從供給側的角度來看,現在既要強化AI、區塊鏈等新技術在安全領域的突破和應用,同時也要正確看到成熟安全技術的價值;如果從商業模式變化的角度來說,過去的甲乙方安全產品買賣關係已經逐漸轉化為強化運營和服務的共生關係,“是要把安全作為一個持續系統化工程來建設”。
無論技術如何更迭,安全都是永恆的話題。用朱中樑的話說,網路安全問題是“魔高一尺道高一丈,再進一步就是道高一丈魔可能要高十丈”,所以,“是無休止的鬥爭”。
但另一個問題是,目前在這個網路“靶場”中,沒有定量的分析和表述,沒有相應的指標體系,“靶場”便不能真正發揮實效。
來自中國資訊保安測評中心的李斌直言,“靶場”的概念源自打仗,打仗是有規則的,但網路安全這個“靶場”現在在某種程度上有點亂。“需要針對網路安全空間裡的目標物件保護、方法手段有一些定性定量的要求,當然還要有創新。總之,我認為就是要有問題思維、底線思維。”他說。