【PPT分享】中國科學院資訊工程研究所袁雪敬：“惡魔音樂”攻擊智慧語音系統

1月19日，在清華大學舉辦的網路安全研究國際學術論壇InForSec 2019年年會上，中國科學院資訊工程研究所袁雪敬帶來了《“惡魔音樂”攻擊智慧語音系統》的精彩報告。

演講 主題： CommanderSong: A Systematic Approach for Practical Adversarial Voice Recognition（“惡魔音樂”攻擊智慧語音系統）→ PPT下載

內容 摘要： 智慧語音控制成為當前機器接受人類命令的常用方式，傳統攻擊需要入侵到汽車或者機器人系統中。利用聲音訊號欺騙人工智慧系統可以避免物理接觸裝置，但是如何克服播放裝置電子噪聲以及環境噪聲的影響，規模化地攻擊智慧語音識別系統是實現實際物理攻擊的難題。

本文旨在研究智慧語音應用的潛在威脅和防禦機制，為人工智慧演算法測試與修復提供思路。主要基於語音識別原理，挖掘深度學習演算法漏洞，自動化地將語音命令嵌入到任意歌曲中生成對抗樣本，這種被稱為CommanderSong的“惡魔音樂”可以在人們無法覺察的情況下大範圍地實際物理攻擊智慧語音識別系統。此外，這種攻擊還可以通過網路或者收音機訊號進行廣泛傳播，進而在人們日常生活中誤導商業化應用產品（如科大訊飛）。