你掌握的AI技能,可能並沒有那麼值錢
編者按:AI潮已經席捲整個世界,各種AI初創公司遍地開花,但不是所有都能獲得成功本文作者Ric Szopa是 invoo. vc 的首席技術官。此前, Ric是MicroscopeIT 公司的首席技術官, 該公司是一家專門從事計算機視覺、機器人和顯微鏡影象處理的軟體公司。他曾在谷歌 (google) 從事 youtube 資料庫基礎設施工作。他認為,對於以AI為商業核心的企業而言,發展的道路上,有幾個很關鍵的“事故高發地”。本文編譯自KDnuggets的原題為“Your AI skills are worth less than you think”的文章。
AI熱已經熱了好一陣子了。機器學習專家的工資開得很高,投資者面對AI企業,也很樂意用心傾聽,開啟心門,然後開啟支票簿。確實,科技革新能帶來翻天覆地的變化,每一代人都有這樣的機遇,而AI就是我們這一代的大機遇。技術帶來的改變是無法逆轉的,它會對我們的生活有深遠的影響。
但是,這也不是說AI企業要成功就易如反掌。 我認為,以AI為商業核心的企業而言,發展的道路上,有幾個很關鍵的“事故高發地”。
我和兒子的照片,圖片經過 Artistic Style Transfer處理。這個技術點燃了我對深度學習的熱情。
你的AI技能在不斷貶值
2015年,我還在谷歌上班的時候,開始擺弄 DistBelief(後來改名叫TensorFlow),當時它還很差勁,寫起來很費勁,主要的抽象過程也和我想的不太一樣。想讓它在谷歌的開發環境之外獨立工作,簡直是黃粱美夢。
到了2016年年底,我在弄一個通過組織病理學影象來發現乳腺癌的POC測試。我的想法是利用遷移學習,拿癌症的資料來訓練谷歌最好的影象分類架構 Inception 。權重就用谷歌提供的訓前權重,光換頂層佈線層的資料。用TensorFlow不斷實驗、試錯之後,我終於知道怎麼操控不同的層,幾乎就成功了。這個過程需要很大的耐心,還要讀TensorFlow的源,但是至少我不用擔心依賴的問題,因為TensorFlow好心提供了docker映象。
2018年年初,對於實習生做的第一個專案來說,上述的專案不夠複雜。有了 Keras (TensorFlow基礎上的框架),不需要對專案有什麼深層的瞭解,用Python寫幾行程式碼就完事了。不過超參調優還是有點麻煩。如果已經有了深度學習模型,就有好幾個引數可以控制,比如多少個層,每層的量等等。但最優引數設定也不簡單。有些直覺式演算法(比如網格搜尋)不是很好用。於是我們就要不停地做實驗,與其說這是科學,到更像是一門藝術。
在我寫下本文的時候(2019年年初),谷歌和亞馬遜已經提供自動模型除錯的服務 ( Cloud AutoML , SageMaker ), 微軟也正有此意 ,計劃在籌備中了。我預計,模型微調很快就不需要人工操作了。
我希望讀者能看到事情發展的趨勢:原先難做的事情變簡單了,知識水平的門檻降低,讓懂得不多的使用者也可以實現更多。過去的工程壯舉,在今天看來也沒那麼了不起,而我們不能指望未來還不如現在。這其實是好事,是進步的表現。我們應該把功勞記在谷歌這樣的公司頭上,他們大手筆投資之後,將成果分享給世人。但是他們這麼做,也是有兩重原因的。
你被商品化之後,你的辦公室就是這樣。
首先,谷歌的真正商品是雲架構,而上述舉動是為了將其 互補品商品化 。在經濟學上,如果人們傾向於同時購買互為補充的兩種商品,比如汽油和汽車、牛奶和麥片、培根和雞蛋。如果互補商品組合其中之一價格降低,另一商品的需求就會上漲。而云架構的互補商品就是雲端的軟體。而且AI相關的專案一般需要很多計算資源。這麼以來,將開發的成本降到最低也就十分合理了。
其次,谷歌之所以對AI那麼熱心,是因為他們在這方面相對於亞馬遜和微軟有明顯的優勢。谷歌的起步更早,讓深度學習的概念熱門起來的也是谷歌。他們也沒少招兵買馬,招攬了不少人才。他們在開發AI產品上經驗更豐富,所以開發相關工具和服務方面也更有優勢。
雖然技術進步讓人興奮,但是對於在AI技能方面做出很多投入的企業和個人來說,可不是什麼好訊息。現在,培養出有AI技能、能勝任工作的機器學習工程師確實能帶來很多好處。其成本也是很大的,工程師需要花大量的時間閱讀論文,還要有堅實的數學基礎。但是,工具變得越好越好用,情況就不一樣了。這份工作就會轉向閱讀教程,而不是看論文了。如果你不快點找到自己的優勢,就會有一幫實習生帶著資料庫來搶糧了,尤其是他們的資料質量可能更高呢...這也引出了我要提的第二點。
資料比高大上的AI架構更重要
假如有兩個AI企業創始人,小紅和小明,他們的企業創業資金差不多,在同一個市場中競爭。小紅把錢投資在最好的工程師上,聘請在AI研究方面成績不錯的博士。而小明請的工程師水平還不錯,能勝任工作,她(小明也可以是女性!)把錢投資在更好的資料上。你會把寶押在誰身上?
我會把寶押在小明身上。機器學習的本質救災與將資訊從資料集中提取出來,然後按權重處理。好的模型在處理的過程中效率(就時間和整體質量而言)會更高,但是在模型差不多的前提下(也就是說,模型真的能得出有用的結果),資料的質量會比好的架構更重要。
為了說明這一點,我們來做個快速粗略的小測試。我創造了兩個卷積網路,一個“好”,一個“差”。較優模型最後的全連線層有128個神經元,而較差模型湊合著用了64個。我用 MNIST資料集的子集訓練這兩個模型,然後用測試集得出兩個模型的準確度,與他們受訓的樣本數量對比。
藍色的是較優模型,綠色是較差模型
資料集的規模有明顯的積極作用(至少在模型開始過度擬合和準確率平臺之前)。較優模型用藍色表明,顯然比綠色標明的較差模型表現更好。但是,我想之處的是, 在如果較差模型的訓練樣本數達到4萬時候,就比用3萬樣本訓練的較優模型更優秀了!
在我鬧著玩舉的例子裡,我們面對的是一個相對簡單的問題,我們的資料集也比較全面。但是現實生活中就沒有這樣的好事了,問題往往復雜得多。很多情況下,擴大資料集也得不到這麼巨大的效果反轉。
而且,和小紅的工程師競爭的不是小明手下的人。由於AI社群的開放文化,以及他們對知識共享的執著,工程師的競爭物件是科技企業巨頭和世界各地科研機構裡的研究人員。如果你的目標是解決問題,而不是為科學做貢獻的話,那麼使用現有文獻裡表現最好的架構,用自己的資料來訓練它,這是在實戰中無數次得到驗證的方法。如果眼下沒有好的解決方案,常常就得等幾個月,等到有人提出解決方案來。而且,你還可以徵集解決方案,比如,利用Kaggle大資料競賽平臺,將資料、問題描述、期望的指標釋出到 Kaggle 上,以競賽的形式向廣大的資料科學家徵集解決方案,解決自己具體的問題。
好的工程技能當然是重要的,但是如果你從事的是AI行業,資料是可以帶來相對優勢的。不過,最關鍵的問題在於你能不能守住自己的優勢。
在AI行業,保持競爭優勢很難。
小明的資料集質量比較好,所以能和小紅競爭,企業表現也不錯。她的產品投入市場之後,市場份額不斷增加。她現在還能請水平更高一點的工程師,因為企業在市場上的口碑和名氣也不錯。
小黃要追趕大部隊,自然少不了花功夫。但是他的創業資金比小明多很多,資金的優勢在建資料集的時候就凸顯出來了。工程專案不是砸錢就能跑得快。而且,有時候新人越多,開發反而越受阻礙。但是創造資料集就不一樣,通常對人力的需求比較大,請的人多,規模也就上去了。有時候,資料已經有了,你只需要砸錢買許可權。總之,有了經濟基礎,過程還是能快很多。
小黃為什麼能比小明籌到更多錢呢?
創始人在籌集資金的時候,他們試著在兩個相對的目標之間找平衡。一方面,他們得籌到足夠多的錢,才能在市場競爭中領先;另一方面,錢也不是越多越好,錢一多,股份就被攤薄了。找一個新股東,就意味著公司又被賣出一部分。創始團隊必須守住企業中一定的股份,這樣他們才不會失去創業的動力(創業是真的很難)。
另外,投資者想投資的是有巨大潛力的專案,但是他們也要把握好風險。如果他們覺得風險越來越大,每給一塊錢,他們就會要更多的股份。
小明在籌錢的時候,她確實冒了個險,相信AI能提升自己的產品。不管她作為創始人的能力如何,團隊的能力如何,他們都不知道自己眼前的這個問題能不能解決。但是小黃的情況就不同,市場上已經有了小明的產品,一個活生生的例子,說明這個問題是能解決的。
小明面對這樣的情況有一個潛在的應對方法:發起新一輪融資。她目前的情況還不錯,市場競爭中還處於領先地位。但是,情況可能越來越複雜。如果小黃能通過戰略合作關係取得資料許可權呢?比如,他們做的是癌症篩查行業,小黃本來就是幹這一行的,在一家重要的醫療機構工作,那他可能利用自己在圈子裡的關係,想辦法簽下了對自己公司很有利的合同。而小明沒有同等的條件,就做不到這一點。
想守住自己的產品,那“護城河”越深越好
那麼,你會怎樣打造出一款具有競爭優勢的AI產品,並且守住自己的優勢呢?不久之前,我很榮幸和微軟研究的 Antonio Criminisi 聊了聊。他認為,專案的“祕方”不應該只有AI。比方說,他自己的專案InnerEye就是利用AI和經典的計算機視覺(而不是基於機器學習)來分析影像學影象。某種程度上說,這或許與你創立AI企業的目的是對立的。把資料喂進一個模型裡,看看有沒有用,這樣的想法自然很有吸引力。但是,需要程式設計人員思考演算法、運用長久積累的域知識的傳統的軟體是更難被複制的。
把AI當槓桿用
在做生意的時候,將資源分門別類時,可以看看它是直接增加了價值,還是能幫助你得到其他有價值的資源。我們用一家電商公司舉例。如果你創造了一個新的產品線,就是直接增加了價值。本來什麼都沒有,有了產品線,就有了產品,有了願意為它買單的消費者。建立新的分銷渠道就不一樣了,它是你的槓桿:在亞馬遜上賣產品能把銷量翻倍;降低成本也是一種槓桿,如果你能和生產方達成更好的協議,降低成本,那利潤就可能翻番。
有了槓桿,你就有了“四兩撥千金”的潛力,同樣的力氣,直接上不如巧用力。但是,槓桿只有在和直接價值源相結合的時候才用得上。要是價值本來就低,翻一倍、翻兩倍,量還是上不去。如果你沒有產品可以買,費心找分銷渠道也是白費心思。
在這樣的背景下,我們該如何看待AI呢?有很多企業都想吧AI作為直接產品(比如影象識別API)。如果你是AI專家,那這樣的想法確實很有誘人。但是這個點子糟透了。首先,你是和谷歌、亞馬遜這樣的大公司直接競爭。其次,做一個真正有用的原生AI實在是太難了。舉個例子,我一直很想用谷歌的 Vision API 。但不幸的是,光用API,需求恰好得到匹配的使用者,我們一個也沒見過。我們提供的產品和服務要麼是有餘,要麼是不足。與其拿驢子當馬使,倒不如做定製,一個蘿蔔一個坑呢。
面對AI,最好就是把它當作一個槓桿。你可以沿用現有的商業模式,用AI助助力。例如,你的商業過程中有一個環節是通過人類認知完成的,如果用AI自動化,毛利潤會提高很多的話,就大膽用起來。我能想到的幾個例子包括 ECG分析 、 工業檢測 和 衛星影象分析 。最激動人心的是,由於AI是在後端,你可以在其他方面下工夫,保持住自己的競爭優勢。
結論
AI確實是改變時代的技術。但是,如果你把它作為自己初創企業的中心,你會面臨很大的風險。因為市場發展的大方向決定,AI技能會不斷貶值,所以你不能光依靠自己的AI技能。建立AI模型的過程固然很有趣,但重要的是資料質量要比對手的高。維持競爭優勢確實很難,尤其是在競爭對手財力比你雄厚的情況下。如果你是靠AI技能發家的,那很有可能出現多金的對手後來居上的情況。你應該把精力放在創造可規模化的資料收集過程上,這是對手不容易複製的。對於依賴水平不高的人類認知的行業,AI的破壞力最強,因為他們的工作是可以自動化的。
編譯組出品。