又一中國AI晶片公司“誕生”:依圖推首款雲端AI晶片,頂尖演算法公司向產業上游生長丨專訪
近幾年,業內颳起一股 AI 演算法公司自研晶片的風潮,其中最具代表性的隊伍恐怕是國內一眾語音技術公司。 現在,這股風潮終於也降臨計算機視覺領域。
5 月 9 日,計算機視覺公司依圖在上海召開發佈會,宣佈推出其首款 AI 晶片產品“ QuestCore™ ” (求索) ,並基於此推出雲端邊緣端兩款視訊解析硬體, 成為中國計算機視覺“4 小龍”(商湯、曠視、雲從、依圖)中第一家嚐鮮自研 AI 晶片的公司。 公司創始人朱瓏更是表示,依圖要成為中國最成功的 AI 晶片公司之一。
圖丨 QuestCore™(來源:DeepTech)
圖丨兩款產品(來源:DeepTech)
晶片以外,釋出會透露的更重要資訊是:“演算法、資料、晶片”被認為是 AI 的三大支柱。此前,國內 AI 公司主要在拼前兩者。 但從去年開始,這兩個領域的爭奪趨於膠著狀態,演算法上彼此已經越來越難拉開距離,資料資源更是愈發集中在極個別頭部公司手中。拼算力硬體,也就成了一個水到渠成的階段。 一個更重要的邏輯是,行業垂直整合正在捲土重來。
一家演算法公司造芯,需要下多大決心?
2017 年就有傳言說依圖開始進軍 AI 晶片領域,並在開發 AI 晶片,對標另一家 AI 晶片初創公司地平線。對於這一說法, 依圖首席創新官呂昊在採訪中對 DeepTech 澄清,從未在公司內部聽聞依圖做晶片對標的是地平線 。
他表示,與谷歌、微軟、阿里等公司自研晶片一樣,依圖自己做晶片也是為了更好地發揮依圖演算法和軟體的效能,為客戶提供更好的軟硬體一體化解決方案。
朱瓏則在釋出會上表示, 依圖開發這款晶片,不在於追求匹及英偉達上則幾百 T 的算力,而在於高計算密度。
圖丨Que stCore™ 與英偉達產品的單位面積算力比較 (來源:DeepTech)
圖丨依圖科技首席創新官呂昊在現場演示已經配 備 QuestCore™ 的伺服器機櫃,並現場演示了4顆晶片如何支撐 200 路實時視屏解析,並具備人臉識別和比對的能力,目前產品已經商用 (來源:DeepTech)
據依圖提供的資訊,QuestCore™ 是全球首款深度學習雲端定製 SoC 晶片,定位伺服器晶片/雲端 AI 芯, 可獨立使用,採用臺積電 16nm 工藝,將與依圖的智慧視覺分析軟體結合,作為軟硬體一體化的解決方案對外銷售,適用於加速各類視覺推理任務,比如交通運輸、公共安全、智慧醫療和智慧零售等行業,尤其是對雲端智慧視訊實時分析等應用具有強需求的企業環境。 搭載 Questcore™ 的依圖原子伺服器,將為今年 11 月在上海舉行的第二屆世界進口博覽會提供安保服務。
在能效上,QuestCore™ 峰值效能達到 11.2T (深度學習推理運算),功耗 20W ,攝像頭單路功耗僅為英偉達 GPU P4 的 30%,同等功耗下,深度學習推理運算效能是市面同類產品的 2~5 倍。這款產品也支援 TensorFlow、PyTorch 等各類深度學習框架,適用於加速各類視覺推理任務,最高 50 路 FHD 視訊流硬體解碼,另外還支援虛擬化、容器化,可將 AI 雲的彈性計算和排程提升一個量級。依圖也為 QuestCore™ 配備了基於其自研 ManyCore™ 架構的深度學習推理模組,ManyCore™ 架構同樣適配各類深度學習演算法。
圖丨 QuestCore™ 支援的視覺推理場景(來 源:DeepTech)
呂昊對 DeepTech 表示, QuestCore™由依圖和 ThinkForce 團隊共同打造 ,依圖在 2017 年 2 月時有了自研晶片的想法,大約 2 年時間順利完成一款量產 AI 晶片的研發, 從設計到製造實現全面國產化 ,背後是依圖和 ThinkForce 之間的深度合作。
後者成立於 2017 年,同樣是近年來中國 AI 晶片初創公司中最值得關注的新星之一,曾提出過“ 演算法即晶片 ”的論斷(這一論斷也在今天的釋出會上由朱瓏屢次提及,顯然,這位演算法出身的創始人非常認可這一論斷)。
據瞭解,ThinkForce 團隊核心成員來自 IBM、AMD、INTEL、LSI、Broadcom、Cadence、ZTE 等業界龍頭晶片企業,負責過 IBM PowerPC、AMD APU 的北橋、SonyPS3 Cell 處理器、Microsoft XBOX 遊戲機主晶片、以及全球最高速的 56G Serdes 等, 團隊成員手裡曾量產過 40 款以上各類晶片,總銷售額數十億美元。2018 年,ThinkForce 完成 4.5 億元 A 輪融資,依圖正是投資方之一。
(來源:ThinkForce)
對於依圖推出這款雲端 AI 晶片的原因,呂昊概括為三點: 對行業的理解、產品體量已經達到一定程度(未透露具體量級)、依圖演算法精度的提升。
第一款 AI 晶片之所以選擇了用在雲端推理上,也是因為依圖各主要業務尤其在安防上的需求。QuestCore™主打視訊推理,主要關注分析處理視訊的數量,專用於加速視覺推理運算,比如人臉識別、視訊結構化分析、行人再識別等等,其和一些終端視訊推理晶片的區別在於,終端晶片只需要分析處理一路視訊,雲端晶片則關心的是可以處理多少路視訊。呂昊表示,QuestCore™是目前更智慧、價效比更高的視覺推理 AI 晶片。
“QuestCore™將整合在我們的產品中對外售賣。依圖的體量相對較大,最深耕的行業就是安防,因此不需要擔心由於市場體量較小而產生的成本問題……我們對於市場的需求、對於 AI 領域有自己的理解。 2017 年,公司對於 AI 算力需求增長以及產品競爭性有了一定的預判,因此有了自研 AI 晶片的決定 ”,他說。
不難看出,在這幾大動機中,現階段的業務需求是依圖第一次“造芯”的最直接原因。
圖丨2017 年中國 計算機視覺應用市場份額(來源:IDC)
依圖創立於 2012 年 9 月,自成立以來,其 AI 演算法在人臉識別領域屢有突破,且現已不再侷限於視覺識別方向,在業內也被認為是一家很明確的 AI+垂直行業、應用層技術落地的 AI 演算法公司,涉及安防、醫療、AI製藥、金融領域等。其中,依圖在安防和醫療領域佈局較早,現已形成一定的先發優勢,例如依圖醫療智慧輔助診斷系統已經在上海、浙江等近百家三甲醫院臨床應用,在安防上則搭建了全球首個十億級人像比對系統,演算法已突破億級靜態比對。
圖丨依圖已有的演算法突破(來源:DeepTech)
但顯然,現在,和業內很多公司一樣,依圖不單單隻想追求極致的演算法,也將目光投向了追求配合演算法的極致算力上。“沒有典型場景應用沒有意義,沒有超越英偉達的晶片沒有意義,沒有世界級的演算法沒有意義”,朱瓏說。
釋出會上,依圖也第一次對外談及其對智慧算力發展的理解和使命: 提升智慧密度,即從單位智慧走向群體智慧,單位面積智慧算力更高 。這一使命顯然已經從演算法、資料跨越到了算力領域。
儘管採訪中依圖多次表示自身並非為了開發晶片而開發晶片、不為晶片商業化,但隨著這款雲端 AI 晶片的推出, 其定位將不再是一家純粹的 AI 演算法公司。
圖丨含有 4 顆 QuestCore™ 晶片的板卡(來源:DeepTech)
呂昊透露, 公司既然決定自研 AI 晶片就不會只有一款產品,目前依圖已經開始著手第二款產品的研發 ,新晶片的算力還在優化,希望能達到同等產品 2 到 5 倍的提升。依圖表示,首先發揮自己最擅長和積累最多的機器視覺領域專業知識,今後將逐漸拓展到其他領域的晶片研發。
(來源:DeepTech)
演算法紅利時代已過,垂直整合重回“C 位”
依圖此次推出的晶片產品,能幫助依圖帶來怎樣的業務增長,仍有待時間和市場驗證,但我們相信,視覺演算法公司進軍產業上游,開始自研晶片,現在還只是剛剛吹響前奏。 去年就有業內人士對 DeepTech 表示,中國的計算機視覺產業一定會走出一家或者幾家自研 CV 晶片的公司。
把時間倒回到大概兩三年前,也就是在 2015 年~2017 年,無論是在視覺還是語音方向,演算法公司都是產業圈和創投圈最熱捧的物件。當時,在 AI 的三大支柱“演算法、資料、晶片”中,AI 公司的核心競爭力主要體現在前兩者。
但從去年開始,整體的情況又有了細微的變化:無論是語音識別、自然語言處理還是人臉識別演算法,各家在幾個最主要指標上的表現或許仍有先後之分,但演算法上彼此已經越來越難拉開距離。 演算法紅利逐漸吃緊,資料資源更是愈發掌握在極個別頭部公司手中,拼算力硬體也就成了一個水到渠成的階段。
這背後一個更重要的趨勢是, 行業垂直整合的捲土重來 。例如,過去 1 年,DeepTech 接觸過的眾多涉及 AI 業務的公司,都在愈發頻繁地使用這個詞語——“全棧(full stack)”。它意味著完整一套、端到端產品或服務體系的能力,正在成為描述一家 AI 公司競爭力的關鍵詞。
比如特斯拉,這家汽車公司最近推出了自己的晶片 FSD,本質上已經拼上了最後一塊關鍵的版圖。放在過去,誰能想象一家汽車廠居然會自研自動駕駛晶片?
圖丨釋出會上,依圖同樣對比了其與特斯拉 FSD 的效能功效,QuestCore™ 最 大的不同在於兼顧雲端和邊緣端(來源:DeepTech)
之所以說垂直整合是捲土重來,也是因為分工外包合作是主流, 絕大多數企業傾向於專注核心業務,非核心業務與產業鏈上的供應商進行合作,打包捆綁式的合作模式讓出了舞臺中心。現在,垂直整合正在迴歸,尤其是在電子資訊密切相關的領域。
而特斯拉以外,蘋果更早嚐到了垂直整合的甜頭:不但寫軟體開發演算法,還自研晶片,自運營零售商店。 兩家公司分別在消費電子和汽車領域體現了高度垂直整合的價值 ,在使用者體驗、企業效率、建立壁壘上有顯著優勢。
圖丨特斯拉自動駕駛晶片 FSD(來源:特斯拉)
“特斯拉就是非常明顯的訊號,這不是熱度問題,這是行業落地的必然結果”,呂昊說,“ 今年是 AI 晶片產品出現比較多的一年,很多公司都會嘗試垂直整合 ”。
目前,在雲端 AI 晶片市場上,我們已經看英偉達(T4)、谷歌(TPUv3)、亞馬遜(Inferentia)、華為(昇騰 910)、百度(崑崙)這樣的中外科技巨頭,也有寒武紀(MLU100)、Graphcore(IPU)、位元大陸(BM1680、BM1682)等明星 AI 初創公司,可謂“巨頭盤踞、群雄爭霸”,尤其是在推理市場上更是百家爭鳴,但可以預見這片藍海還會有更多的玩家入局。 演算法背景團隊、晶片背景團隊、網際網路巨頭、傳統 AI 晶片大廠各有優勢此起彼伏之間 , 雲端 AI 晶片將迎來“物種大爆發”。
值得一提的是,在演算法紅利的階段,國內的不少 AI 方案廠商更多隻是針對場景開發和優化演算法,所以很多時候都直接購買國外大廠的晶片, 某種程度上來看, 倒更像是為國外廠商創造更多產品的出海口 ,並不能直接推動中國晶片產業的發展 ,而現在,演算法公司也在嘗試自研晶片, 如果有越來越多中國公司在其中“怒刷存在感”,晶片持續高速地試錯、更新、升級,對中國晶片產業來說,也是在創造新的機會。
-End-
關注 DeepTech
發現改變世界的新興科技
(微訊號:deeptechchina)
▼
點選閱讀原文了解題跋派 ↓↓↓