如何系統(tǒng)型的學(xué)習(xí)深度學(xué)習(xí)？

不知小伙伴們遇到?jīng)]遇到這樣的情況，對于想學(xué)習(xí)一個科目，總想把全部的資料收集起來，然后通過各種渠道了解總共需要學(xué)習(xí)哪些知識點，最后做一個看著非常努力而又詳細的路線圖時間表。 好似我們知道學(xué)習(xí)什么，資料也有了，路線圖也有了，我們就真的會系統(tǒng)的學(xué)習(xí)，成為明日大牛了。 小編有過這種經(jīng)歷，如果是自己想學(xué)習(xí)的科目，而無任何考試或其他外在壓力，按照這種路線，基本是整一次失敗一次。我把這種經(jīng)歷最后歸結(jié)為起步階段的“完美主義”。 經(jīng)歷了幾次，小編發(fā)現(xiàn)學(xué)習(xí)真的是學(xué)才行，如果你真的想系統(tǒng)的學(xué)習(xí)某一個領(lǐng)域知識，建議不要總是在起步階段打轉(zhuǎn)，行動起來，不管怎樣資料沒有收集完的時候，路線圖時間表沒有一次就完美的情況，做個大致規(guī)劃，開始了再說。 最后，小編摘抄了幾個知乎高贊回答，都是小伙伴們自身實踐的經(jīng)驗，大家可以看看。

01

作者：機器學(xué)習(xí)入坑者
https://www.zhihu.com/question/305745486/answer/557055667

一開始，我每天固定兩個小時學(xué)Python，兩個小時看吳大佬的有題目的視頻教程，兩個小時自己實現(xiàn)課后習(xí)題。這期間感覺自己進步很大，但是總覺得哪里出了問題，卻又說不出來。

兩個多月以后，課程完結(jié)，開始學(xué)習(xí)tensorflow，看書敲代碼，出現(xiàn)問題就百度。雖然自己能實現(xiàn)類似resnet這種基礎(chǔ)網(wǎng)絡(luò)，但是自我感覺沒有之前那么好了，好像越學(xué)越糊涂。

再后來，我開始看論文了，找那些有開源實現(xiàn)的論文，看一篇論文，學(xué)習(xí)一篇代碼。在這樣穩(wěn)扎穩(wěn)打的步伐下，我感覺自己又進入了快速上升期。

既然能搞懂別人的論文了，能不能自己來一篇?于是我開始去怎么提出新東西，進而意識到我應(yīng)該先對自己領(lǐng)域現(xiàn)存方法有所了解，知道它們的優(yōu)點和不足。按照這種想法，我開始有意識的泛讀自己領(lǐng)域的頂會論文，了解最流行的方法。我意識到，最簡單的創(chuàng)新實際上就是把別的領(lǐng)域的東西搬過來用，所以我從nlp找了點思想用到對抗上（此時我并不知道已經(jīng)有人這么做了，畢竟自己掌握的文獻還不夠）。不管怎么說，我算是有自己的成果了。

這就足夠了嗎？不是的。我越發(fā)感覺到自己的不足，深度學(xué)習(xí)僅僅在cv領(lǐng)域就有各個子分支，每個分支就算整個研究生生涯都不一定能吃透。

更要命的是，我發(fā)現(xiàn)我一直都是在寫算法，從沒考慮過如何部署模型，也就是整天紙上談兵。所以我最近開始學(xué)網(wǎng)絡(luò)知識，學(xué)習(xí)什么是客戶機服務(wù)器模式，學(xué)習(xí)flask，想把自己的模型部署到web服務(wù)器上。

總得來說，我沒有采納我當(dāng)初所看見的建議，那些建議有的列出來一系列書單，有的列出來一系列課程，對我個人來說是不太可行的計劃我一般都不去做。

我覺得應(yīng)該從自己想解決的問題入手，舊問題的解決往往伴隨新問題的誕生。我最開始只是想知道啥玩意是反向傳播，后來卻自己搞出一篇論文，是那些困擾我的問題激勵著我進一步研究，每次解決問題都會有那種喜悅的心理，這是我進步的源泉。

02

作者：Jason金
https://www.zhihu.com/question/305745486/answer/798114557

系統(tǒng)性我不太了解，但是我可以講講我的學(xué)習(xí)經(jīng)歷，我主要分為四個階段：

1.初學(xué)階段

啃吳恩達的機器學(xué)習(xí)的課程，然后看的是黃海廣博士等人翻譯的課程和筆記，這一階段主要了解相關(guān)的概念，一定要有一個整體的結(jié)構(gòu)，每個名字大概是什么意思，有什么用。

然后就是代碼方面的事情，我沒有馬上跟上代碼，而是去學(xué)習(xí)了一下一些以后會用到的基礎(chǔ)的python庫，比如pandas，numpy，matplotlib等

2.初探代碼階段

當(dāng)時因為一些偶然因素要做深度學(xué)習(xí)方面的東西，然后去kaggle上下載了一段完整的訓(xùn)練代碼。這里有一些了解的初學(xué)者可能會問到底選什么深度學(xué)習(xí)平臺好，tensorflow？pytorch？keras？每個平臺之間并沒有絕對的優(yōu)勢，主要還是看自己的具體情況。

我的方向是和醫(yī)學(xué)圖像相關(guān)的東西，所以選擇了keras，因為他上手快，可以快速構(gòu)建出一個模型，但是靈活性要稍微差一些；pytorch是另一個熱門選擇，我的很多師兄師姐都是用的pytorch，他們很多事做的和人臉相關(guān)的方向；tensorflow不太建議初學(xué)者，相比之下前期學(xué)習(xí)花銷大且代碼量也比較多。

回到正題，上面說的那段完整的訓(xùn)練代碼，我進行了一次精讀，理解他每個步驟都在干些什么，然后用到了哪些有關(guān)的庫，然后對訓(xùn)練過程有了一個整體了解，還有就是熟悉這個框架的一些函數(shù)。

3.“照葫蘆畫瓢”階段（最艱難但進步最快）

這個階段，就如小標(biāo)題所說的一樣，跟著別人的代碼一步一步來，然后化為己用。

雖然對那段代碼進行了精讀，但是直接拿來自己用還是比較牽強，各個專業(yè)名詞越來越混，也不知道要如何下手。沒辦法，只能繼續(xù)鞏固基礎(chǔ)，我就去把keras的官方文檔給琢磨了一遍，然后照著它給的最簡單的分類網(wǎng)絡(luò)實現(xiàn)了一遍，之中有很多坎坷和挫折，但是堅持下來就是勝利。然后就是將自己的數(shù)據(jù)集放入到模型中了，結(jié)果根本不好，但起碼能跑起來。

接下來就是調(diào)參的過程，不會或者疑惑的地方就百度谷歌還有問師兄師姐，自己感受一遍和只看書是完全不一樣的。

4.進階階段

到了這個階段，已經(jīng)對網(wǎng)絡(luò)結(jié)構(gòu)和訓(xùn)練流程有了一定認知了，接下里就是要訓(xùn)練出一個表現(xiàn)不錯的模型了。又要回到專業(yè)名詞中去，去看別人是怎么優(yōu)化的，提出了什么網(wǎng)絡(luò)結(jié)構(gòu)，有什么創(chuàng)新的思路，相關(guān)的paper當(dāng)然是要讀的，然后就是嘗試去優(yōu)化自己的模型。

接下來的階段我也還在摸索，但是最重要的事就是要不斷學(xué)習(xí)，不斷去理解深度學(xué)習(xí)，把它化作自己能用的東西。

03

作者：瘋貓子
https://www.zhihu.com/question/305745486/answer/557090589

分享一下我的學(xué)習(xí)路徑。

首先，基本的數(shù)學(xué)素養(yǎng)是必須具備的，這個自不必細說。

正是開始學(xué)習(xí)前，先了解神經(jīng)網(wǎng)絡(luò)的實現(xiàn)原理，在動手寫一遍代碼，是自己動手實現(xiàn)神經(jīng)網(wǎng)絡(luò)的算法。

有了這個基礎(chǔ)，再開始學(xué)習(xí)深度神經(jīng)網(wǎng)絡(luò)的原理及用代碼擼一遍。

開始逐步加深難度，學(xué)習(xí)激活函數(shù)并加入神經(jīng)網(wǎng)絡(luò)。學(xué)習(xí)反向傳播，學(xué)習(xí)損失函數(shù)，學(xué)習(xí)梯度下降。動手擼一遍代碼。

自此，基本原理搞明白之后，就可以開始熟悉主流框架，包括tensorflow keras等，能夠閱讀代碼之后，開始研究各種成熟網(wǎng)絡(luò)的結(jié)構(gòu)和調(diào)參。

主要包括基本的cnn,RNN,GAN。這個過程不是孤立的學(xué)習(xí)，需要看論文，做一些小項目來實踐，所以過程較長。

當(dāng)然，人生苦短，這個過程，你還需要弄塊好顯卡來給深度神經(jīng)網(wǎng)絡(luò)加速。

這個過程，我大概每天平均2-3小時的學(xué)習(xí)，也差不多用了9個月，所以，祝好，祝學(xué)習(xí)快樂。

04

作者：yuquanle
https://www.zhihu.com/question/305745486/answer/558653688

個人感覺有了些基礎(chǔ)常識之后就開始在實踐中學(xué)習(xí)吧，系統(tǒng)的學(xué)里面涉及那么多知識，學(xué)一遍怕的黃花菜都涼了～遇到不懂的概念利用百度谷歌，然后理解學(xué)習(xí)這個概念，若是概念難懂，就多看不同的人對這些概念的理解，有的時候有些人能深入淺出的講解一些很不錯的資料，我覺得這種有目的性的實踐學(xué)習(xí)方式學(xué)來的東西更加印象深刻～

這樣即鍛煉了個人能力（獨立查找資料文獻也是能力），又能達成某些目的～這樣過了一段時間之后，你好像又懂很多東西了，但是好像又有很多方面不了解，其實這就是你在某個點有點深度了，但是廣度還不夠。如果此時有大把閑置的時間，就可以去刷刷那些不錯的系統(tǒng)性課程，刷課的時候會發(fā)現(xiàn)很多概念理解起來輕松多了，或者說似曾相識（理解的知識點又得到了復(fù)習(xí)并再次確認自己的理解了的知識點和這些老師講的是否一致）。

每天進步一丟丟

使用邏輯回歸處理多標(biāo)簽的分類問題 使用哪一種方法來處理多分類問題取決于具體問題的定義。如果一個樣本只對應(yīng)于一個標(biāo)簽，我們可以假設(shè)每個樣本屬于不同標(biāo)簽的概率服從于幾何分布，使用多項邏輯回歸（Softmax Regression）來進行分類。（多項邏輯回歸實際上是二分類邏輯回歸在多標(biāo)簽分類下的一種拓展。） 當(dāng)存在樣本可能屬于多個標(biāo)簽的情況時，我們可以訓(xùn)練k個二分類的邏輯回歸分類器。第i個分類器用以區(qū)分每個樣本是否可以歸為第i類，訓(xùn)練該分類器時，需要把標(biāo)簽重新整理為“第i類標(biāo)簽”與“非第i類標(biāo)簽”兩類。通過這樣的辦法，我們就解決了每個樣本可能擁有多個標(biāo)簽的情況，