神經網絡 黑箱的意思是我們知其然，不知其所以然，相關理論比較缺乏。別看神經網絡相關論文汗牛充棟，但是大部分類似于technical report，告訴你我這么做效果不錯，具體原因不知道，只能“guess”，所以很容易被打臉。
這一篇文章(www.argmin.net/2018/01/25/optics/)講得挺好的，他用光學系統類比深度學習，非常形象。
從結構來看，無論是深度學習還是鏡頭，都是一層一層疊起來的，如下圖所示。
從設計流程來看，當要設計一個鏡頭的時候，往往以一個已知的鏡頭組合作為基礎，這個已知的鏡頭組合一般都以發明這個鏡頭組合的人命名，類似于深度學習的里面的LeNet、AlexNet。然后你跑個仿真，看看這個基礎鏡頭組合的表現和你需要達到的要求存在哪些差距，在合適的地方插入合適的組件來磨平差距。接著，你用一個[數值優化器]來調上述鏡頭組合的參數，以發揮上述鏡頭組合最大的功效。這個類似于深度學習里面的優化和調超參過程。
從系統組成部件來看，光學組件有的起到反射作用，有的起到衍射作用，有的起到[折射作用]，有的起到散射作用，有的起到相位校正作用等等。
從發展歷史來看，伽利略時代雖然沒有光學理論，類似于現在的深度學習，但是同樣造出來了人類歷史上第一架天文望遠鏡，推動了天文學的發展。現在深度學習也理論不足，但是極大地推動了人工智能的發展。
從結果看，在幾百年里，經過科學家的不懈努力，光學終于形成了一整套比較完備的體系，使得現在的光學工程師在設計鏡頭的時候有跡可循，而不是像幾百年前的伽利略一樣靠經驗設計。
這一套完備的體系將光學分層了，如下圖所示，這樣的分層使得光學分工明確，每個人研究各自層的東西，一起推動光學發展。上面的層是下面層的抽象，越往上能解釋越復雜的現象，見下圖所示，而相比而言深度學習里面的很多現象還得不到較好的解釋。
光學也經歷過黑箱時代，深度學習現在就是黑箱時代，理論的前進一般會晚于實踐，但是假以時日，理論肯定會完備起來，形成類似于當前光學那樣的層層抽象的學術體系，只不過這個過程需要所有從業者一起的努力，和一定時間的積淀，也許幾十年，也許上百年。
作者：知乎 mileistone
編輯：算法進階（侵刪）
