網易云課堂-吳恩達機器學習課程 55-64課時
第八章:正則化;第九章:神經網絡學習
希爾伯特第十問題;丟番圖方程;哥德爾不完備定理:在數學系統的一致性和完備性之中,我們只能選擇其一,也就是說不存在一個系統同時滿足一致性和完備性。;自我指涉
這里有兩個問題:是否還存在比圖靈機表達能力更強的計算模型?人類的計算能力是否超過圖靈機?這兩個問題的答案都是未知的。第一個問題要么我們能找出一個新的計算模型,它能解決某個圖靈機不能解決的問題,要么能夠從理論上證明這樣的計算模型是不可能存在的。不過目前我們既找不到比圖靈機更強的機器,也不能證明不存在更強的計算模型,因此只能暫時就認為圖靈機是我們現在機器解決問題的上限。而圖靈證明了存在圖靈機不能解決的問題,因此也就粉碎了希爾伯特的夢想。人類是否能夠解決圖靈機不能解決的問題呢?這個也很難證明。有的讀者可能會奇怪,這不是很容易嗎?人類可以證明前面的費馬大定理,計算機(圖靈機)還不能證明。注意:圖靈機現在確實還不能證明,但是不能下結論它永遠不可能證明。就像計算機以前下圍棋不行不代表它永遠不行。我們必須證明不存在一個算法能夠證明費馬大定理,事實上這個算法是存在的——人類怎么證明的?肯定是有限步的推導啊,那么這個算法不就是存在了?我們想說的也許是:這個算法雖然存在,但是計算機永遠找不到它。這似乎不好證明。