第一屆TVM與深度學習編譯器會議總結
在2018年NeurIPS結束後的一週,TVM社群在寒風凜冽的西雅圖召開了第一屆TVM與深度學習編譯器會議。隨著人工智慧各種硬體平臺的興起,如何高效自動部署應用到各個裝置成為大家首要關注的問題。TVM stack採用了智慧化系統設計的新方法打開了利用機器學習自動優化深度學習編譯部署的方向。本次會議一共有180多人蔘與,參與者包含了各個高校和企業的同學,甚至包含了不遠從大洋彼岸臺灣和日本飛過來開發者們。大家共聚一堂,討論TVM社群的最新進展以及未來的發展方向。本文簡單介紹會議的內容,會議所有的slides和youtube視訊可以從會議官方網站獲取(見本文末尾),歡迎大家分享。
TVM stack包含了高層的可微分程式設計,運算元表示式優化和自動化工具AutoTVM,分散式調優RPC,開源深度學習加速器VTA等各個部分。本次會議的報告也涵蓋了雲端計算,邊緣計算,AI晶片,超低精度量化,可微分程式設計,智慧化機器學習系統(ML for system),安全隱私保護等各個方面的內容。
在企業應用場景方面,來自AWS, Huawei以及Facebook的同學分別在報告中介紹了TVM在深度學習雲優化服務,加速器支援,移動端的自動優化。Qualcomm介紹了他們支援TVM到DSP的計劃。本次會議還包含了微軟,Intel,Xilinx的報告,介紹他們相關的深度學習框架支援。來自日本NTT的開發者分享了他們對於自動FPGA程式碼生成的探索,以及未來的應用。來自臺灣清華大學的李教授做了TVM對RISC-V支援的短報告。
除了企業級別的應用,TVM也推動了機器學習系統的各個前沿方向,吸引了高校貢獻團隊。UW SAMPL團隊在keynote中介紹了TVM的起源以及現在的發展。會議中來自高校的報告包括深度學習自動優化(autotvm),可微分程式設計和高層優化(relay),AI晶片自動設計(VTA),分散式機器學習(PHub),超低精度量化,如何採用TVM打造隱私安全的機器學習系統,支援複雜運算元(hybrid script等)。目前TVM包含了來自UW,上海交通大學,Berkeley,UCLA,Cornell,等各個高校的貢獻團隊。
企業級別的應用場景和高校的前沿研究推動合力打造一個穩步發展,共同引領的社群模式。社群本身採取Apache的執行模式,即只要有足夠貢獻的同學都會被提升成committer,從而參與管理引導社群方向。我們相信這樣的模式可以使得更多的團隊加入到這個專案中,一起通力合作,打造深度學習編譯和優化的開源工具鏈,也非常歡迎大家加入到社群中來。
會議slide和視訊連結
本次會議所有的slides和youtube視訊可以從如下會議官方網站獲取: