Thursday, October 17, 2019

AI從頭學(一七):Shallow Learning

AI從頭學(一七):Shallow Learning

2017/03/21

這篇標題 Shallow Learning,其實是 Deep Learning。我自己學了幾個月,有點心得,但不敢妄言深度,只是希望對想自學的人有點幫助。

-----


Fig. Shallow Learning(圖片來源:Pixabay)。

-----

如果有時間的話,我會建議從頭瀏覽一遍:

AI從頭學(目錄)

如果自覺程度不錯,可以直接看重點的三篇,然後再看我推薦的三本書。

AI從頭學(九):Back Propagation  

AI從頭學(一0):Automatic Differentiation

AI從頭學(一二):LeNet 

網路上的資源很多,可以自行搜尋,就不一一介紹,這邊列出一篇很基本,跟兩篇最詳細的,以及免費的電子書:

http://m.zgshuxue.com/tech/20160917/316983.html

https://github.com/ty4z2008/Qix/blob/master/dl.md

https://github.com/ty4z2008/Qix/blob/master/dl2.md

http://www.datasciencecentral.com/profiles/blogs/free-deep-learning-textbook

底下三本我在台北市天瓏書局翻過,有志於 DL 的年輕人,可以投資購買。

-----


Fig. 1. Artificial Intelligence for Humans, Volume 3: Deep Learning and Neural Networks.

https://www.amazon.com/Artificial-Intelligence-Humans-Learning-Networks/dp/1505714346

這本在 Amazon 的評價兩極。我個人翻閱過,認為內容恰好是入門者所需。但如果你在全無基礎的狀況下閱讀,我想還是很困難。我的話因為已經搜尋過相當多的網路資源,稍有些概念,所以覺得這本書很不錯,對入門者,該講的都講了,不該講的也沒講。

-----


Fig. 2. Artificial Neural Networks.

https://www.amazon.com/Artificial-Neural-Networks-Graham-Zakar/dp/1523409371/ref=sr_1_1?s=books&ie=UTF8&qid=1490085524&sr=1-1&keywords=graham+zakar

書名就讓它有點吃虧。內容也有點偏離 Deep Learning,而是接近較廣義的 ANN。條目多,所以內容就淺,而且因為每個條目篇幅較小,反而不容易講的仔細。每篇都有參考資料,可以省下時間。

如果要買,至少先翻閱一下。

-----



Fig. 3. Deep Learning.

http://www.deeplearningbook.org/

這本真是經典了,賣的也很好。雖然我用的是網路版,但我建議想學 DL 的年輕人一定要買一本來仔細鑽研。

全書共二十章,架構如圖5。一開始是數學,我建議先跳過。第一個主角是 CNN,但我建議先看我寫的 LeNet 那篇導讀。第二個主角是 RNN,但一開始 LSTM 可能不容易瞭解。這兩章是基礎。

然後我從 GAN 切入,這個現在正紅。GAN 隱身在第二十章的 20.10.4 裡,想讀 GAN,就得從第二十章的開頭知道要讀 16-19 章。然後 16 章又會要你讀 3.14。最後你需要的 GAN 裡面前兩個式子的定義可以從第三章取得。細節稍後再說。

圖四定義了 AI 的範疇,從 AI 到 ML 到 RL 到 DL。

-----


Fig. 4. AI.



Fig. 5. AI Structure.

-----

http://hagan.okstate.edu/nnd.html

-----

出版說明:

這篇文章是我在兩年半年,剛看懂 LeNet 時寫的。這篇文章的前後幾篇文章,討論的都是 LeNet 看懂後,應該如何進行下一步。

網路上現在有關深度學習的資源已經滿坑滿谷了,對於初學者而言,問題不是資料少,而是資料太多。總之,我運氣不錯,有看到一本簡體中文書告訴大家讀論文的順序。另外也有一位台大教授很熱心推薦了兩篇基礎論文。順序就變成 LeNet、AlexNet、ZFNet、NIN、GoogLeNet、VGGNet、ResNet。還有 R-CNN、SPPNet、Fast R-CNN、Faster R-CNN、YOLO、SSD、R-FCN。

這一堆如果你能跑完,要讀哪些比較新的論文,我想你也沒問題了。

No comments: