2016-04-22我們愛智慧
前言:本文是推薦給在校CS專業學生的資源推介,參考網絡文獻整理。謝謝大家的分享!
1、第一次接觸
深入淺出地介紹神經網絡
https://www.zhihu.com/question/22553761#answer-33473096
吳軍《數學之美》關于神經網絡,講得比較清楚。高大上的神經網絡,其實也就是數據結構的圖,這樣來理解就比較平易近人。有一種難,是我們覺得這很難。如果我們將某種事物標記為“難”,那么我們真的會覺得這很難。其實,真正有用有趣的事物,往往并不難。
李飛飛: 我們怎么教計算機理解圖片?
http://www.ted.com/talks/fei_fei_li_how_we_re_teaching_computers_to_understand_pictures?language=zh-cn#t-17202
下一個“AlphaGo”會出現在疾病診斷領域嗎?
http://v.qq.com/iframe/player.html?vid=k01489ruyqn&300&NaN&auto=0
目前的機器學習確實有很大的突破,在某種程度上復制了人類的學習能力,可以做很多事情。
2、深入學習
斯坦福大學公開課 :機器學習課程
http://open.163.com/special/opencourse/machinelearning.html
3、Deep Learning 經典閱讀材料
闡述Deep learning主要思想的三篇文章:
Hinton, G. E., Osindero, S. and Teh, Y., A fast learning algorithm for deep belief netsNeural Computation 18:1527-1554, 2006
Yoshua Bengio, Pascal Lamblin, Dan Popovici and Hugo Larochelle, Greedy Layer-Wise Training of Deep Networks, in J. Platt et al. (Eds), Advances in Neural Information Processing Systems 19 (NIPS 2006), pp. 153-160, MIT Press, 2007
Marc’Aurelio Ranzato, Christopher Poultney, Sumit Chopra and Yann LeCun Efficient Learning of Sparse Representations with an Energy-Based Model, in J. Platt et al. (Eds), Advances in Neural Information Processing Systems (NIPS 2006), MIT Press, 2007
4. Deep Learning工具
首先你最好要有個能支持cuda的GPU,否則純CPU是很慢的,尤其是處理圖像的問題。
Theano(基于Python), http://deeplearning.net/tutorial/系列教材就是基于Theano工具的。在這個網站可以看到無數的深度學習相關工作鏈接,足夠慢慢擴展到深度學習的所有前沿研究和工具了。
Torch (https://github.com/torch/torch7/wiki/Cheatsheet),基于lua編程語言(類matlab)。用的人非常多,因此很多常見模塊的實現都很全面。
DeepLearnToolbox (https://github.com/rasmusbergpalm/DeepLearnToolbox),基于matlab。代碼邏輯清楚,適合跟著代碼學習深度學習的每個細節。
Caffe (http://caffe.berkeleyvision.org/),純c++,科學研究中很多學者常用的工具,文檔也很齊全。做物體檢測相關任務的話,非常推薦!
Cuda-convnet2 (https://code.google.com/p/cuda-convnet2/),效率高,支持單機多卡。ImageNet2012年冠軍Alex的作品!做簡單的分類、回歸問題推薦!不支持RNN。
Cxxnet (https://github.com/dmlc/cxxnet),純c++。優點:支持多機多卡訓練,適合公司級的部署。
主要參考:張德兵:深度學習史上最全總結。
“我們愛智慧”微信公眾號新鮮出爐,歡迎微信搜索關注“我們愛智慧”或者“WeLoveWisdom”公眾號,或者長按下方的二維碼。東西方經典,快樂與智慧,健康與養生,計算與智能,一起來學習和分享那些引領我們和世界走向更美好的事物……