Python貓薦書系列:文也深度學習,理也深度學習
最近出了兩件大新聞,相信大家可能有所耳聞。
我來當個播報員,給大家轉述一下:
1、中國隊在第 11 界羅馬尼亞數學大師賽(RMM)中無緣金牌。該項賽事是三大國際賽事之一,被譽為中學奧數的最高難度。 其中一道題,令中國隊全軍覆沒。
2、一個出自清華姚班,畢業於斯坦福的女博士,她的畢業論文成了學術圈的“爆款”。這篇論文研究的主題是—— 如何讓機器學會理解人類語言?
每天的新聞多如牛毛,唯獨這兩件引起了我的注意。它們跟本期的薦書欄目也是強關聯,下面就給大家說道說道。
上圖標出了中國隊成績最好的三名隊員。前兩人在其它題目全部滿分的情況下,第三題竟然是 0 分!什麼樣的題目能讓我們的頂尖高手都束手無策呢?
算了,題目我就不放出來了(我看不懂,不自找其辱。總之你們知道它很難就得了)。但是,那道題是圖論的問題,關於圖論,我們可以說說它跟電腦科學的關係。
圖論是數學的一個分支,它研究的最著名問題有 柯尼斯堡七橋問題
與 四色地圖問題
,相信大家都曾見過,而在計算機領域,它也帶來了諸多的研究成果:最小生成樹問題、旅行商問題(NP困難)、拓撲排序演算法、廣度優先演算法、深度優先演算法,等等。
奧數就這樣跟程式設計師的職業聯絡了起來。然而,更值得一提的是第二個新聞:它研究的是人工智慧領域最前沿的話題,想構建一個 在深度神經網路之上的閱讀理解模型 。簡單地說是,教會計算機來閱讀文字的能力。
這項研究與大家熟知的數字個人助理不同(如 Alexa、Siri、Google Assistant、Cortana),它的難度超越了簡單會話與資訊匹配的一般性問題,想克服的是文字級閱讀理解,與開放性問答等高度抽象層面的難關。
它的研究成果將給數字個人助理帶來質的提升,而對於人類語言文字的閱讀理解能力,也必然帶來更廣闊的應用前途。這一切,都歸功於深度學習。
深度學習是我很感興趣的領域。
我們有幸生在這個時代,見證了 AlphaGo 打敗人類的頂尖棋手,正在見證各種 AI 技術的出現,無人駕駛、醫療診斷、AI 翻譯、金融科技、深度法律......
我們的未來將被人工智慧深遠地影響。
本期Python 貓薦書欄目(系列之六),就以此為話題,推薦給大家兩本書:
它們都叫《深度學習》,但是內容很不一樣。
第一本從應用數學,到深度學習的各種模型、演算法與科研問題,走的是極其專業的路線。
而另一本講的是深度學習的 60 年發展史,以及對智慧時代的一些前瞻性預測,走的是通俗科普的路線。
如果要強行劃分的話,前一本屬理科,主要給相關領域的學生與程式設計師閱讀,而後一本則屬文科,面向所有對人工智慧的歷史與未來感興趣的人群。
事實上,第一本書被很多人譽為深度學習的聖經,知名度極高,有一個暱稱叫作“花書”。
簡單梳理一下它的內容:
- 第一部分是深度學習的基礎,包含線性代數與概率論等數學知識,以及梯度優化、擬合、偏差、最大似然估計與監督學習等基礎概念;
- 第二部分是深度學習的關鍵部分,涉及深度前饋網路、正則化、模型優化的方法、卷積網路、序列建模、與實踐應用內容;
- 第三部分是深度學習研究,例如線性因子模型、自編碼器、表示學習、結構化概率模型、蒙特卡羅方法、直面配分函式、近似推斷、深度生成模型,等等。
要知道,本專欄是興趣大於能力,沒辦法深入剖析這本書的精華,再講出些令行家也折服的話,但是,這本書值得推薦之處也很顯著:它是一種正統的、學院派的、知識全面的、一絲不苟的、偏重理論的書籍,沒錯,正像是大學裡相關專業的指定參考書。
這就意味著,如果想進入深度學習領域,這本書將是你最好的老師。(而且不用考試,手動滑稽)
至於第二本《深度學習》,書的副標題是“ 智慧時代的核心驅動力量 ”。其實這只是翻譯的結果,原書的英文名是《The Deep Learning Revolution》。
20 世紀 70 年代到 90 年代是深度學習(神經網路)的寒冬,本書作者既是深度學習的先驅與奠基者,也是打破此寒冬,令深度學習東山再起的大功臣。他名叫 特倫斯·謝諾夫斯基
(Terrence Sejnowski)。
特倫斯是誰呢?世界十大AI科學家之一,美國四大國家學院(國家科學院、國家醫學院、國家工程院、國家藝術與科學學院)在世僅3位的“ 四院院士 ”之一,全球AI專業會議NIPS基金會主席。
深度學習的核心技術 玻爾茲曼機 ,正是由特倫斯與傑弗裡·辛頓共同建立的。
那書的內容是什麼呢?這本書在前言中稱: 這是一本關於深度學習的過去、現在和未來的指南。 在如此巨集觀的視角下,它主要講到了一些重要概念的發展、科研群體研究的內容和傳承,以及深度學習對當今社會的影響。
也就是說,它不再關心微觀的原理、底層的細節、繁複的邏輯。與第一本書的調性截然不同。
這本書以第一人稱視角講述,帶入了很多個人的動態:讀書經歷、研究課題、演講與會議、人際關係、趣聞、甚至還有八卦(例如差點跟女朋友分手的一次會議。PS:他們在一起了,現在也沒分開)。
因此,第二本書的閱讀門檻不高,還饒有趣味。
第一期:《 編寫高質量程式碼改善 Python 程式的 91 個建議 》
第二期:《 Python最佳實踐指南 》
第三期:《 黑客與畫家 》
第四期:《 Python原始碼剖析 》
第五期:《 Python高效能程式設計 》
-------------薦書完-------------
世事無巧不成書。似乎每期薦書都會發生一些巧合,因此我得額外交代幾句:
1、我早知第一本書的大名,也翻看過數學部分的一些內容,但是興趣就止步於此。有打算納其入薦書系列,但沒想到會這麼快。至於第二本書,恰好是在上期薦書釋出後,中信出版社的營銷人員找我約稿,當時這本書還沒上市。我並非深度學習領域的專家,只能寫寫旁觀者的言語,既然無法深入,乾脆就將它們湊在一起了。
2、薦書欄目不是專業書評,無法講透全書的技術精粹,但我仍大著膽寫了(之所以拖了這麼久才動筆,就是因為過於擔心)。一方面逼使自己閱讀和查資料,快速歸納與寫作;另一方面也確實是希望通過自己的文筆,能夠使一部分讀者獲知到原先不知的資訊,產生閱讀的興趣。
3、就在前幾天(2 月 28 日),一位知名的 Python 博主@Vamei 因抑鬱症自殺了。我在看資料的時候,發現他也寫了第二本《深度學習》的書評。他釋出的時間是 1 月 31 日,而在這個時間,新書還未上市。這意味著他可能跟我一樣,都收到了出版社的預讀本,我們就是那麼巧合地在同樣的時間裡閱讀著同一本還未上市的新書。我想,這本書大概就是在給我傳遞一個訊息。我有很多次想過放棄邀約(無稿費,贈書一本)、放棄寫這一篇薦書,直到前幾天才真正開始動筆。這個神祕的訊息就這麼巧地傳過來了。薦書,見人。寫完這篇薦書,我要寫寫他了。
4、Vamei 的豆瓣主頁寫道:
Vamei 是赤道附近一個颱風的名字。按照氣象規律,颱風不常出現在赤道。所以,Vamei是一個離群的風,無所顧忌地生長,不著邊際地遊蕩。
公眾號【 Python貓 】, 專注Python技術、資料科學和深度學習,力圖創造一個有趣又有用的學習分享平臺。本號連載優質的系列文章,有喵星哲學貓系列、Python進階系列、好書推薦系列、優質英文推薦與翻譯等等,歡迎關注哦。PS:後臺回覆“ 愛學習 ”,免費獲得一份學習大禮包。