蘇格拉底：我不可能教會(huì)任何人任何事，我只能讓他們思考

?　

【價(jià)值觀】人工智能給今天的人類(lèi)所帶來(lái)的是一種深度的恐慌，這種恐慌來(lái)自于對(duì)人類(lèi)智能、乃至人類(lèi)生命失去意義、失去價(jià)值的深深擔(dān)憂，這種恐慌比金融危機(jī)、或經(jīng)濟(jì)危機(jī)所帶來(lái)的恐慌更甚

面對(duì)這一恐慌，有大量的科學(xué)家開(kāi)始解釋人工智能不可能超越人類(lèi)，但也有同樣數(shù)量的科學(xué)家卻在斷言人工智能一定超越人類(lèi)。

哪一個(gè)是正確答案？智慧人類(lèi)終于又想起哲學(xué)。價(jià)值家認(rèn)為：在人工智能和人類(lèi)智慧之間，至少有這幾道鴻溝，是機(jī)器智能很難跨越、或者需要長(zhǎng)時(shí)間才能跨越的。今天的機(jī)器智能雖然極其高效、但還只是非常特定的“極窄智能”，正如下圍棋的機(jī)器人還打不了籃球——

專(zhuān)用機(jī)器智能=》通用機(jī)器智能=》人類(lèi)一般智能（科學(xué)&理性）=》人類(lèi)抽象智能（哲學(xué)）=》人類(lèi)智慧

更重要的是，以人類(lèi)的樂(lè)觀價(jià)值觀為武器，我們堅(jiān)信，智慧的人類(lèi)肯定不會(huì)等于人工智能毀滅人類(lèi)的哪一天才開(kāi)始行動(dòng)，人工智能和人類(lèi)智能的未來(lái)命運(yùn)，一定是共同進(jìn)化！　　

徐英瑾教授大概是中國(guó)大陸少有的持續(xù)關(guān)注人工智能的哲學(xué)研究者了。他還專(zhuān)門(mén)為復(fù)旦學(xué)生開(kāi)了一門(mén)叫做“人工智能哲學(xué)”的課。這門(mén)課第一講的標(biāo)題，也是我們向他提出的問(wèn)題：為何人工智能科學(xué)需要哲學(xué)的參與？或者換句話來(lái)說(shuō)，一個(gè)哲學(xué)研究者眼中的人工智能，應(yīng)該是什么樣的？

（一）專(zhuān)訪：大數(shù)據(jù)、人工智能、哲學(xué)

徐英瑾：對(duì)我來(lái)說(shuō)，我現(xiàn)在推崇的就是AGI——Artificial General Intelligence。在一般所謂的Artificial Intelligence（人工智能）中間加了一個(gè)General（普遍），這就意味著，它要做普遍的計(jì)算，工作起點(diǎn)與現(xiàn)在人們理解的人工智能是不一樣的。

現(xiàn)在的做法，是先在某一專(zhuān)門(mén)領(lǐng)域造一臺(tái)無(wú)比厲害的機(jī)器，比如，在問(wèn)答游戲領(lǐng)域造一個(gè)Watson，讓它戰(zhàn)勝一切人類(lèi)選手，再在圍棋領(lǐng)域造一個(gè)AlphaGo，讓它戰(zhàn)勝一切人類(lèi)棋手。這是基于一種商業(yè)的邏輯：先在某一領(lǐng)域深入下去，取得成功，弄出很大的聲勢(shì)，然后吸引資本進(jìn)入，接下來(lái)再嘗試將相關(guān)技術(shù)推廣到其他領(lǐng)域。但是這種做法，在哲學(xué)上是行不通的。

以小朋友的成長(zhǎng)為例。任何偉大的人，愛(ài)因斯坦也好，李世乭也罷，小時(shí)候總是各方面都有潛能的，然后隨著他逐漸成長(zhǎng)，某一方面的能力變得特別突出，即便如此，其他方面的能力也至少是在平均水平，就算比平均水平低，也不會(huì)低多少，否則就無(wú)法正常地工作了。簡(jiǎn)單來(lái)說(shuō)，這是一個(gè)養(yǎng)成的過(guò)程。我所設(shè)想的人工智能，就應(yīng)該是這樣的，它是具有普遍性的，跟人類(lèi)一樣，有一個(gè)養(yǎng)成和學(xué)習(xí)的過(guò)程，能夠適應(yīng)多個(gè)領(lǐng)域的工作。

而現(xiàn)在的做法，是分成好多個(gè)領(lǐng)域，一個(gè)領(lǐng)域一個(gè)領(lǐng)域地來(lái)做，做完之后，再合在一起，情緒、認(rèn)知這些方面都不去管。那么，問(wèn)題來(lái)了，你怎么知道這些領(lǐng)域最后合在一起，就能產(chǎn)生人工智能呢？打個(gè)比方，很大程度上這就相當(dāng)于，去國(guó)際軍火市場(chǎng)隨機(jī)購(gòu)買(mǎi)軍火，然后整合成一支部隊(duì)，或者去不同國(guó)家采購(gòu)零件，然后拼湊成一架飛機(jī)。這顯然是不可能成功的。

而且，按照目前的做法，還會(huì)形成一種路徑依賴，比如說(shuō)對(duì)大數(shù)據(jù)的追捧。將來(lái)即便發(fā)現(xiàn)這條路走錯(cuò)了，要想再去走正確的路就很難了。這就好像一支軍隊(duì)用了很久的蘇式裝備，一旦換成美式裝備，全軍都會(huì)不適應(yīng)。這個(gè)問(wèn)題很容易就能想到，但是現(xiàn)在竟然就連這方面的批評(píng)都那么少，簡(jiǎn)直不可思議。

您從什么時(shí)候開(kāi)始關(guān)注人工智能哲學(xué)的？

徐英瑾：差不多從2004年左右開(kāi)始吧，我在翻譯王浩文集的同時(shí)，讀到瑪格麗特·博登的《人工智能哲學(xué)》這部論文集。當(dāng)時(shí)人工智能遠(yuǎn)遠(yuǎn)沒(méi)有現(xiàn)在這么熱門(mén)，但是我覺(jué)得，這是未來(lái)哲學(xué)應(yīng)該處理的問(wèn)題。博登的書(shū)只是一部入門(mén)之作，從此書(shū)開(kāi)始，我找了大量相關(guān)資料閱讀。

關(guān)于人工智能哲學(xué)研究，我主要是和美國(guó)天普大學(xué)的計(jì)算機(jī)專(zhuān)家王培老師合作，他研究人工智能的體系，認(rèn)為它就是為了在小數(shù)據(jù)的情況下進(jìn)行應(yīng)急推理。那個(gè)時(shí)候我還不知道有大數(shù)據(jù)，當(dāng)然，大數(shù)據(jù)的前身，如貝葉斯、神經(jīng)網(wǎng)絡(luò)等都有了——今天的深度學(xué)習(xí)是當(dāng)時(shí)的神經(jīng)網(wǎng)絡(luò)的高度加強(qiáng)版，根上的東西從欣頓（Geoffrey Hinton）那時(shí)就有了。后來(lái)大數(shù)據(jù)越來(lái)越熱，我才關(guān)注到相關(guān)討論。不過(guò)，這種關(guān)注對(duì)我的研究實(shí)際上是一種干擾，因?yàn)槲抑浪清e(cuò)的。

說(shuō)到大數(shù)據(jù)，您在這方面發(fā)表了不少文章，比如有一篇就叫“大數(shù)據(jù)等于大智慧嗎？”最近也頻頻談?wù)摯髷?shù)據(jù)問(wèn)題。您在這方面的觀點(diǎn)是什么？

　　????

徐英瑾：如果用一句話來(lái)概括的話，就是，我談?wù)摯髷?shù)據(jù)的目的在于反對(duì)大數(shù)據(jù)。現(xiàn)在有一種很不好的風(fēng)氣，就是“IP”橫行，“大數(shù)據(jù)”也被當(dāng)作了IP，更糟糕的是，連我對(duì)大數(shù)據(jù)的批評(píng)也成了這個(gè)IP的一部分。事實(shí)上，我的批評(píng)背后，有我的理論關(guān)懷，就是日本哲學(xué)家九鬼周造的學(xué)說(shuō)。九鬼周造寫(xiě)過(guò)一本書(shū)，叫《偶然性的問(wèn)題》，說(shuō)整個(gè)西洋哲學(xué)都喜歡從必然性的角度來(lái)解決問(wèn)題，必然性解決不了就用概率論，但偶然性是永遠(yuǎn)不能被馴服的。大數(shù)據(jù)是試圖馴服偶然性的一種嘗試，但它終將無(wú)法馴服。

中國(guó)歷史上，這樣的例子很多，尤其是軍事史。你看那些大的戰(zhàn)役的指揮者，彭城之戰(zhàn)的項(xiàng)羽也好，赤壁之戰(zhàn)的周瑜、魯肅也罷，他們最終作出決策，靠的是什么呢，難道是大數(shù)據(jù)嗎？其實(shí)是核心情報(bào)的評(píng)估和基于常識(shí)的推理，以及一點(diǎn)點(diǎn)碰運(yùn)氣式的瞎蒙。因?yàn)閼?zhàn)爭(zhēng)是充滿無(wú)知之幕的。那些以小勝多的戰(zhàn)役，如果光看大數(shù)據(jù)，那么一切都會(huì)指向多的那一方要獲勝，少的那一方無(wú)疑是找死，可是事實(shí)是什么呢？

所以，我所設(shè)想的新一代人工智能，是能夠“認(rèn)命”的機(jī)器人。說(shuō)“認(rèn)命”，不是說(shuō)服從偶然性，而是利用偶然性；不是說(shuō)無(wú)所作為，而是順勢(shì)而為。

您的這種觀點(diǎn)，說(shuō)不定會(huì)遭到工程技術(shù)人員抱怨：哲學(xué)流派、觀點(diǎn)那么多，我們?cè)趺锤愕们宄?/strong>

徐英瑾：工程技術(shù)人員的抱怨，有一點(diǎn)我是同情的：兩千年來(lái)，哲學(xué)問(wèn)題的確沒(méi)什么實(shí)質(zhì)性的進(jìn)展。那么，面對(duì)這種情況，我們要采取什么策略呢？印度有部電影叫《噢，我的神啊》（OMG：Oh My God！），男主角是個(gè)外星人，他跑到地球上之后，不知道哪個(gè)神管用，就每個(gè)神都拜一拜。

哲學(xué)流派、觀點(diǎn)很多，保不齊哪一個(gè)管用，每一個(gè)都要有人去嘗試。不能所有的人都搞大數(shù)據(jù)，都搞神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)，這很危險(xiǎn)。現(xiàn)在資本都往這幾個(gè)領(lǐng)域里面涌，這是缺乏哲學(xué)思維的，某種意義上也是缺乏風(fēng)險(xiǎn)管理思維。一件這么不靠譜的事情，你怎么能只試一個(gè)方向、一種流派？

而且，更糟糕的是，這方面的研究人員常常滿腦子技術(shù)烏托邦，拿生活經(jīng)驗(yàn)去細(xì)想一下，其實(shí)是很荒謬的。舉個(gè)例子來(lái)說(shuō)，現(xiàn)在 “奇點(diǎn)”被炒得火熱，大意是說(shuō)，奇點(diǎn)革命一旦到來(lái)，人類(lèi)社會(huì)將被顛覆。

事實(shí)上怎么樣呢？我這一代人經(jīng)歷了改革開(kāi)放初期的物質(zhì)貧乏，一直到今天的物質(zhì)極大豐富，我們七八歲時(shí)關(guān)于二十一世紀(jì)的烏托邦式想象，今天實(shí)現(xiàn)了幾個(gè)？深層次的社會(huì)結(jié)構(gòu)并沒(méi)有怎么改變，比如醫(yī)療領(lǐng)域，各種新技術(shù)的出現(xiàn)其實(shí)強(qiáng)化了現(xiàn)有的社會(huì)結(jié)構(gòu)，加劇了貧富階層之間的差距，又談何顛覆呢？大家把人工智能吹噓得好像很厲害，其實(shí)它一點(diǎn)都不厲害，還有一堆問(wèn)題沒(méi)有解決，你去擔(dān)心它毀滅人類(lèi)干什么？這就和堂吉訶德一樣，把風(fēng)車(chē)當(dāng)作怪物，自己嚇唬自己。

在您看來(lái)，目前這種以大數(shù)據(jù)為基礎(chǔ)的人工智能，繼續(xù)發(fā)展下去，可能會(huì)取得什么樣的結(jié)果？

徐英瑾：我認(rèn)為，再繼續(xù)這樣熱炒下去，就是技術(shù)泡沫，最后什么也做不出來(lái)。關(guān)于人工智能的發(fā)展，業(yè)內(nèi)有點(diǎn)歷史意識(shí)的人，腦子里往往有一張圖表，下方是時(shí)間，上方是發(fā)展水平，目前的人工智能在這張表上的確在上升，但不久就會(huì)遇上瓶頸。就像我前面說(shuō)的，它在哲學(xué)上是行不通的，很多理論問(wèn)題還沒(méi)有得到解決。我個(gè)人還是更傾向于小數(shù)據(jù)。

您關(guān)于小數(shù)據(jù)的觀點(diǎn)，在學(xué)界有代表性嗎？您能就某個(gè)方面的實(shí)例來(lái)詳細(xì)談?wù)劊心男┤斯ぶ悄艿睦碚搯?wèn)題還沒(méi)有得到解決嗎？

徐英瑾：在人工智能學(xué)界，小數(shù)據(jù)不算主流，但在其他領(lǐng)域就不一樣了，心理學(xué)界對(duì)小數(shù)據(jù)的思考就很深入，德國(guó)的吉仁澤（Gerd Gigerenzer）做了大量的工作，人工智能學(xué)界還沒(méi)有關(guān)注到。這是很可惜的事情。

說(shuō)到有待解決的理論問(wèn)題，我可以拿腦研究來(lái)作為例子。現(xiàn)在有一種傾向，是試圖從大腦出發(fā)來(lái)制造人工智能。這方面的風(fēng)險(xiǎn)實(shí)在太大，很多人不明白大腦究竟有多復(fù)雜。

大腦有10^11個(gè)神經(jīng)元，彼此之間存在著極為復(fù)雜的聯(lián)系，其中存在的可能性是個(gè)天文數(shù)字。在很大程度上，我們進(jìn)行情感判斷和復(fù)雜推理的腦區(qū)可能是不一樣的，對(duì)此學(xué)術(shù)上依然沒(méi)有弄清楚。現(xiàn)在出了很多這方面的論文，但是并沒(méi)有給出統(tǒng)一意見(jiàn)，這是因?yàn)椋竽X和大腦之間還存在著個(gè)體差異和民族、文化差異，被試者要經(jīng)過(guò)一定的統(tǒng)計(jì)學(xué)處理之后才能去除這類(lèi)差異。

這種操作是很復(fù)雜的，而且成本很高，現(xiàn)在進(jìn)行腦研究主要靠核磁共振成像，這是很昂貴的手段，不足以支持大樣本研究。這就導(dǎo)致，現(xiàn)在的研究成果不是科學(xué)上要求必須這么做，而是經(jīng)費(fèi)上只能允許這么做。但是最終得出的結(jié)論卻嚴(yán)重地僭越了自身的地位，夸大了自身的代表性。

神經(jīng)生物學(xué)告訴我們，人的神經(jīng)元是具有文化可塑性的，上層的文化影響會(huì)在底層的神經(jīng)分布當(dāng)中得到體現(xiàn)，所以，對(duì)腦神經(jīng)做科學(xué)研究，是無(wú)法剔除文化因素的影響的。人一旦早年處在某個(gè)文化共同體當(dāng)中，神經(jīng)受到了塑造，今后再想改變就比較難了。這在語(yǔ)言學(xué)習(xí)當(dāng)中得到了非常鮮明的體現(xiàn)。日本人說(shuō)英語(yǔ)比較慢，因?yàn)槿照Z(yǔ)是動(dòng)詞后置的，而英語(yǔ)不是，所以他們說(shuō)英語(yǔ)要做詞序變換，導(dǎo)致語(yǔ)速變慢。這就是他們特有的語(yǔ)言編碼方式。

因此，你現(xiàn)在如果真的要?jiǎng)?chuàng)造一個(gè)大腦，那么它不能是生物的，而必須是硅基的。即使它的構(gòu)成是類(lèi)神經(jīng)元的，也依然是硅基的，否則就是在克隆人了。如果你要對(duì)大腦進(jìn)行抽象，你只能抽象出它的數(shù)學(xué)成分。這里面有個(gè)問(wèn)題：純數(shù)學(xué)不能構(gòu)成對(duì)世界的描述。純數(shù)學(xué)每個(gè)單位后面要加量綱，量綱要選擇哪些東西，取決于你看待這個(gè)世界的視角和方向。這就是哲學(xué)和理論層面的問(wèn)題。大腦其實(shí)是一層一層的，最底層是生物、化學(xué)的東西，再往上就是意識(shí)、感覺(jué)的東西。

那么，任何一個(gè)生物組織，對(duì)它的數(shù)學(xué)模擬，到底是事后諸葛亮式、近似式的追問(wèn)，還是能夠把握它的本質(zhì)？這是一個(gè)很可怕的理論黑洞，不僅是一個(gè)工程學(xué)黑洞，首先是一個(gè)哲學(xué)黑洞。這么大一個(gè)黑洞，你認(rèn)為十年二十年能夠把它搞清楚，你說(shuō)風(fēng)險(xiǎn)大不大？比較穩(wěn)妥的，還是去尋找一條可靠的路徑。

您覺(jué)得人工智能的可靠路徑是什么？

徐英瑾：首先應(yīng)該放在自然語(yǔ)言處理上。但是，現(xiàn)在就連這方面的研究，也依然是在做大數(shù)據(jù)，比如翻譯軟件，它的處理方式就是看現(xiàn)有的譯文是怎么翻的，然后它就怎么翻。這是完全不對(duì)的。正確的處理方式，是定下一個(gè)高目標(biāo)：將日語(yǔ)寫(xiě)的俳句翻譯成中文或英文，而且必須是當(dāng)代作家即興創(chuàng)作的俳句，而不能是松尾芭蕉這類(lèi)知名詩(shī)人的、可以檢索的俳句。翻譯好之后，把美國(guó)最好的俳句專(zhuān)家找來(lái)做圖靈測(cè)試。

這個(gè)標(biāo)準(zhǔn)雖然很高，但并非不可企及，而且這是正確的方向。只是，如果我們把精力和資源都放在大數(shù)據(jù)上面，我們就永遠(yuǎn)也達(dá)不到這個(gè)目標(biāo)。因?yàn)榇髷?shù)據(jù)都是從已有的經(jīng)驗(yàn)出發(fā)，全新的領(lǐng)域它是應(yīng)付不來(lái)的。美國(guó)的日本文學(xué)專(zhuān)家怎么譯俳句？當(dāng)然是先揣摩文本，進(jìn)入語(yǔ)境，讓自己被日式審美所感動(dòng)，然后思考，美國(guó)文化當(dāng)中類(lèi)似的語(yǔ)境是什么。這里面就牽涉到對(duì)審美情趣的整體把握。什么是審美情趣？它是和物理世界分割開(kāi)來(lái)的，還是隨附在物理世界上的？這里面，又是一堆問(wèn)題。這些問(wèn)題不弄明白，僅僅是靠大數(shù)據(jù)，是不可能成功的。

您前面談了這么多，我看總結(jié)起來(lái)就是一句話：當(dāng)下人工智能的發(fā)展，問(wèn)題比辦法多得多得多。

徐英瑾：這是沒(méi)辦法的，打個(gè)比方，現(xiàn)在的人工智能的目標(biāo)，是想要造出一個(gè)《超能陸戰(zhàn)隊(duì)》（Big Hero 6）中的“大白”那樣的機(jī)器人，既然當(dāng)下人工智能發(fā)展給自己定下了這么一個(gè)科幻式的目標(biāo)，那么，我前面所談到的問(wèn)題都是必須考慮到的。實(shí)際上，《超能查派》（Chappie）這樣的電影對(duì)人工智能的表現(xiàn)，我覺(jué)得是比較合理的，我也很贊同。

它很清楚地告訴你，機(jī)器人也有一個(gè)學(xué)習(xí)的過(guò)程，很大程度上跟培養(yǎng)小孩是一樣的。我構(gòu)想的未來(lái)的人工智能，買(mǎi)回來(lái)放到家里你是要教的，而不是一開(kāi)始就什么都會(huì)。前面說(shuō)到OMG這部電影，里面那個(gè)外星人的思維方式就像人工智能，他的推理是嚴(yán)謹(jǐn)、科學(xué)的，但因?yàn)榈厍蛏系亩嗌裣到y(tǒng)很混亂，他經(jīng)常因?yàn)橥评硎д`觸犯某些宗教的禁忌而挨揍，挨完揍之后，他就迅速得出了更接近真相的結(jié)論。

這樣一個(gè)建立假設(shè)、驗(yàn)證、挨揍，之后再建立新假設(shè)的過(guò)程，實(shí)際上是科學(xué)家的做法，以自己被揍為代價(jià)，增進(jìn)了對(duì)地球的認(rèn)識(shí)。但是，重要的地方在于，他的思維方式僅僅是基于小數(shù)據(jù)：被揍一次之后立刻修改自己的解釋?zhuān)蝗绻谴髷?shù)據(jù)，他會(huì)想，被揍一次還不行，應(yīng)該多被揍幾次才能得出正確結(jié)論。生物體要是按照大數(shù)據(jù)的思維方式來(lái)的話，早就在地球上滅絕了。

在您看來(lái)，未來(lái)的人工智能，或者說(shuō)真正的人工智能應(yīng)該是什么樣的？

徐英瑾：現(xiàn)在很多人工智能研究最大的問(wèn)題，是不受視角的制約，但是，真正的人工智能是受視角和立場(chǎng)制約的。對(duì)機(jī)器來(lái)說(shuō)，就是受制于預(yù)裝的系統(tǒng)和它后來(lái)不斷學(xué)習(xí)的經(jīng)驗(yàn)，而預(yù)裝的系統(tǒng)，就相當(dāng)于人類(lèi)的文化背景。我所構(gòu)想的人工智能，是需要學(xué)習(xí)和培養(yǎng)的。AlphaGo當(dāng)然也要學(xué)習(xí)，一個(gè)晚上下一百萬(wàn)盤(pán)棋，但那是極為消耗能量的學(xué)習(xí)。人工智能應(yīng)該是舉一反三式的學(xué)習(xí)。AlphaGo雖然強(qiáng)大，但是只能干下棋這樣一件事情，無(wú)法干別的。

當(dāng)然，我并不是說(shuō)，AlphaGo的深度學(xué)習(xí)技術(shù)不能用來(lái)做下棋之外的事，這個(gè)技術(shù)本身可以用來(lái)做很多事情。我的意思是說(shuō)，這個(gè)技術(shù)一旦做成某一具體的產(chǎn)品，這個(gè)產(chǎn)品的功能就固定下來(lái)了。用樂(lè)高積木來(lái)打個(gè)比方，如果你是精于此道的高手，你可以拼出一艘航母、一幢高樓，但是一旦拼出了一艘航母，除非你把它拆掉，它就一直是航母了，不再會(huì)是高樓。

類(lèi)似地，一旦你用深度學(xué)習(xí)技術(shù)做出了AlphaGo這個(gè)專(zhuān)門(mén)用來(lái)下棋的機(jī)器人，如果再想讓它去干別的，很多基本訓(xùn)練和基礎(chǔ)架構(gòu)就必須從頭做起，這就相當(dāng)于把拼成航母的樂(lè)高積木一塊一塊地拆下來(lái)，再拼成一艘航母，而想而知工作量會(huì)有多大。那么，問(wèn)題來(lái)了：你是需要一個(gè)什么都能干，雖然不一定能干到最好的機(jī)器人呢，還是需要一個(gè)只能把一件事情做到最好，其他什么都不會(huì)的機(jī)器人？這兩種機(jī)器人，哪種對(duì)人類(lèi)社會(huì)起到的作用更大？

不妨拿戰(zhàn)爭(zhēng)舉個(gè)例子。未來(lái)的戰(zhàn)場(chǎng)會(huì)需要大量的戰(zhàn)斗型機(jī)器人。一個(gè)士兵在戰(zhàn)場(chǎng)上遇到的情況是千變?nèi)f化的。請(qǐng)問(wèn)，難道只有醫(yī)療兵知道怎么救援嗎？別的士兵也知道，只是未必做得有那么好而已。同樣，醫(yī)療兵也會(huì)使用槍械。

再拿家政服務(wù)舉個(gè)例子，給中產(chǎn)家庭用的機(jī)器人，和給富豪家庭用的機(jī)器人，肯定是不一樣的。AlphaGo這樣的機(jī)器人怎么去迅速適應(yīng)呢？關(guān)于圍棋的輸贏是有明確規(guī)則的，可是家政問(wèn)題有規(guī)則嗎？如果機(jī)器人給一個(gè)大知識(shí)分子收拾書(shū)房，打掃得太干凈，他反而不滿意，可能要拍桌子：“亂有亂的味道！書(shū)房怎么可以弄得這么干凈呢？”但是你不給他打掃，他又不開(kāi)心了，“書(shū)總歸要碼得整齊一點(diǎn)，蜘蛛網(wǎng)總歸要掃掉吧”。

所以，行為的分寸如何把握，是需要人工智能來(lái)學(xué)習(xí)和判斷的。而人工智能如何學(xué)習(xí)和判斷呢？這是需要人類(lèi)去調(diào)教的。

前面您又是舉例子，又是講理論的，談了很多。最后，能請(qǐng)您簡(jiǎn)短地用一句話概括您對(duì)當(dāng)下人工智能的觀點(diǎn)嗎？

徐英瑾：少一點(diǎn)資本泡沫，多一點(diǎn)理論反思。

（二）人工智能研究為何需要哲學(xué)參與?

人工智能哲學(xué)作為一個(gè)行當(dāng)，在國(guó)內(nèi)基本上是還沒(méi)有確立起來(lái)。總體來(lái)說(shuō)國(guó)外的情況比我們好一點(diǎn)，馬馬虎虎算一個(gè)哲學(xué)分支。舉個(gè)例子，瑪格麗特·博登是研究人工智能哲學(xué)的一個(gè)比較大牌的人物，一個(gè)女哲學(xué)家，英國(guó)人。她為什么研究比較好？因?yàn)樗?/span>MIT、卡耐基梅隆這些研究人工智能的重鎮(zhèn)有非常密切的聯(lián)系，和那里的人工智能界的大佬都是私下的朋友。而且瑪格麗特除了是哲學(xué)專(zhuān)家以外，在計(jì)算機(jī)、生物學(xué)、心理學(xué)方面都有相應(yīng)的學(xué)位。我們國(guó)家在文科和理科的交匯方面的確做得不是很好。

一、哲學(xué)能夠?yàn)槿斯ぶ悄茏鲂┦裁矗?/span>

哲學(xué)要做的第一件事是思考大問(wèn)題，澄清基本概念。

與哲學(xué)家相比較，一般的自然科學(xué)家往往只是在自己的研究中預(yù)設(shè)了相關(guān)問(wèn)題的答案，卻很少系統(tǒng)地反思這些答案的合法性。

第二，哲學(xué)在不同學(xué)科的研究成果之間尋找匯通點(diǎn)，而不受某一具體學(xué)科視野之局限。

舉一個(gè)例子，用軍事上的比方，哲學(xué)更像是戰(zhàn)略性思考。如果你是在一個(gè)炮兵學(xué)院里面，不同的研究炮兵戰(zhàn)術(shù)的軍官會(huì)討論炮兵戰(zhàn)術(shù)所牽扯到的具體的幾何學(xué)問(wèn)題。但是站在戰(zhàn)略層面，它可能對(duì)于這些非常細(xì)微的問(wèn)題會(huì)忽略，更多的會(huì)考慮炮兵在軍事編制中所扮演的功能角色，站在更高的層面去看。這可能幫助大家理解哲學(xué)應(yīng)該是干什么的。

第三，重視論證和辯護(hù)，相對(duì)輕視證據(jù)的約束。

　　人工智能需要哲學(xué)嗎？

我個(gè)人認(rèn)為如果說(shuō)化學(xué)家、物理學(xué)家和生物學(xué)家對(duì)哲學(xué)的排斥還有一點(diǎn)道理的話，人工智能對(duì)哲學(xué)的排斥是最沒(méi)道理。就對(duì)于哲學(xué)文化的寬容程度而言，AI科學(xué)絕對(duì)算是個(gè)科學(xué)界內(nèi)部的異數(shù)。從某種意義上說(shuō)，該學(xué)科本身的誕生，就恰恰是“頭腦風(fēng)暴”般的哲學(xué)思辨的產(chǎn)物。

人工智能異數(shù)異到什么地步？以至于現(xiàn)在教育部的學(xué)科目錄里面沒(méi)有人工智能，這是很有諷刺意味的事。也許以后會(huì)形成一級(jí)學(xué)科，但是現(xiàn)在還沒(méi)有形成。

我們先看下阿蘭·圖靈，阿蘭·圖靈（Alan Turing，1912-1954）在英國(guó)哲學(xué)雜志《心智》上發(fā)表了論文《計(jì)算機(jī)器和智能》（Turing 1950）。在文中他提出了著名的“圖靈測(cè)驗(yàn)（Turing Test）”的思想。?

此文牽涉到了對(duì)于“何為智能”這個(gè)大問(wèn)題的追問(wèn)，并試圖通過(guò)一種行為主義的心智理論，最終消弭心理學(xué)研究和機(jī)器程序設(shè)計(jì)之間的楚河漢界，同時(shí)還對(duì)各種敵對(duì)意見(jiàn)提供了豐富的反駁意見(jiàn)。這些特征也使得這篇論文不僅成為了AI科學(xué)的先聲，也成為了哲學(xué)史上的經(jīng)典之作。

1956年發(fā)生大事件——Datmouth 會(huì)議，在這一年夏天的美國(guó)達(dá)特茅斯學(xué)院（Dartmouth College），一群志同道合的學(xué)者驅(qū)車(chē)赴會(huì)，暢談如何利用剛剛問(wèn)世不久的計(jì)算機(jī)來(lái)實(shí)現(xiàn)人類(lèi)智能的問(wèn)題，而洛克菲勒基金會(huì)則為會(huì)議提供了7500美元的資助（這些美元在當(dāng)年的購(gòu)買(mǎi)力可非今日可比的）。

?

　　2006年達(dá)特茅斯會(huì)議當(dāng)事人重聚，

左起：摩爾、麥卡錫、明斯基、塞弗里奇、所羅門(mén)諾夫

在會(huì)議的籌備時(shí)期，麥卡錫（John McCarthy，1927～）建議學(xué)界以后就用“人工智能”一詞來(lái)標(biāo)識(shí)這個(gè)新興的學(xué)術(shù)領(lǐng)域，與會(huì)者則附議。

參加達(dá)特茅斯會(huì)議的雖無(wú)職業(yè)哲學(xué)家，但這次會(huì)議的哲學(xué)色彩依然濃郁。

??? 首先，與會(huì)者都喜歡討論大問(wèn)題，即如何在人類(lèi)智能水平上實(shí)現(xiàn)機(jī)器智能（而不是如何用某個(gè)特定的算法解決某個(gè)具體問(wèn)題）。

　　其次，與會(huì)者都喜歡討論不同的子課題之間的關(guān)聯(lián)，追求一個(gè)統(tǒng)一的解決方案（這些子課題包括：自然語(yǔ)言處理、人工神經(jīng)元網(wǎng)絡(luò)、計(jì)算理論以及機(jī)器的創(chuàng)造性，等等）。

　　最后，不同的學(xué)術(shù)見(jiàn)解在這次會(huì)議上自由碰撞，體現(xiàn)了高度的學(xué)術(shù)寬容度（從麥卡錫完成的會(huì)議規(guī)劃書(shū)[McCarthy et al. 1955]來(lái)看， 沒(méi)有什么證據(jù)表明這次形式松散的會(huì)議是圍繞著任何統(tǒng)一性的、強(qiáng)制性的研究綱領(lǐng)來(lái)進(jìn)行的）。讓人欣慰的是，這些“哲學(xué)化特質(zhì)”在美國(guó)日后的AI研究中也得到了保留。

　　為何AI科學(xué)對(duì)哲學(xué)的寬容度相對(duì)來(lái)得就比較高？這背后又有何玄機(jī)呢？

這首先和AI科學(xué)自身研究對(duì)象的特殊性相關(guān)的。

AI的研究目的，即是在人造機(jī)器上通過(guò)模擬人類(lèi)的智能行為，最終實(shí)現(xiàn)機(jī)器智能。很顯然，要做到這一點(diǎn)，就必須對(duì)“何為智能”這個(gè)問(wèn)題做出解答。

如果你認(rèn)為實(shí)現(xiàn)“智能”的實(shí)質(zhì)就是去盡量模擬自然智能體的生物學(xué)硬件。你就會(huì)去努力鉆研人腦的結(jié)構(gòu)，并用某種數(shù)學(xué)模型去重建一個(gè)簡(jiǎn)化的神經(jīng)元網(wǎng)絡(luò)（這就是聯(lián)結(jié)主義者所做的）。現(xiàn)在我們都知道有一個(gè)類(lèi)腦研究計(jì)劃，這種研究有復(fù)雜版本和簡(jiǎn)單版本，復(fù)雜版本就是藍(lán)腦計(jì)劃一樣，把大腦運(yùn)作的信息流程盡量逼真的模擬出來(lái)，比較簡(jiǎn)單的就是簡(jiǎn)化的神經(jīng)元網(wǎng)絡(luò)。

站在專(zhuān)業(yè)的研究腦科學(xué)的立場(chǎng)上，神經(jīng)元網(wǎng)絡(luò)很不神經(jīng)，離真正的神經(jīng)活動(dòng)來(lái)說(shuō)，它是高度簡(jiǎn)化，但是站在很宏觀的立場(chǎng)上，至少你說(shuō)神經(jīng)元網(wǎng)絡(luò)也是受大腦的啟發(fā)和影響。這個(gè)路線很多人認(rèn)為是對(duì)的，我認(rèn)為可以做出一些成果，但是不要抱有太高的期望。

如果你認(rèn)為智能的實(shí)質(zhì)僅僅在于智能體在行為層面上和人類(lèi)行為的相似。那么你就會(huì)用盡一切辦法來(lái)填滿你理想中的智能機(jī)器的“心智黑箱”（無(wú)論是在其中預(yù)裝一個(gè)巨型知識(shí)庫(kù)，還是讓其和互聯(lián)網(wǎng)接駁，以便隨時(shí)更新自己的知識(shí)——只要管用就行）。

由此看來(lái)，正是因?yàn)樽陨硌芯繉?duì)象的不確定性，AI研究者在哲學(xué)層面上對(duì)于“智能”的不同理解，也才會(huì)在技術(shù)實(shí)施的層面上產(chǎn)生如此大的影響。很明顯，這種學(xué)科內(nèi)部的基本分歧，在相對(duì)成熟的自然科學(xué)那里是比較罕見(jiàn)的。

其次，AI科學(xué)自身的研究手段，缺乏刪除不同理論假設(shè)的決定性判決力，這在很大程度上也就為哲學(xué)思辨的展開(kāi)預(yù)留了空間。

二、哲學(xué)文化滲入AI的幾個(gè)具體案例

下面我們講一些案例，這些案例可以證明哲學(xué)思維對(duì)AI是非常有用的。

霍伯特·德瑞福斯（Hubert Lederer Dreyfus， 1929-），美國(guó)加州伯克利分校哲學(xué)教授，美國(guó)最優(yōu)秀的現(xiàn)象學(xué)家之一，在海德格爾哲學(xué)、福柯哲學(xué)、梅洛-龐蒂哲學(xué)研究方面很有造詣。讓人驚訝的是，以歐陸人本主義哲學(xué)為背景的德瑞福斯，卻寫(xiě)下了AI哲學(xué)領(lǐng)域最富爭(zhēng)議的一部著作《計(jì)算機(jī)不能夠做什么？》（Dreyfus 1979）以及其修訂本（Dreyfus 1992），并使得他在AI領(lǐng)域的社會(huì)影響超越了他的學(xué)術(shù)本行。那么，他為何要轉(zhuǎn)行去寫(xiě)一本關(guān)于AI的哲學(xué)書(shū)呢？

?

　　霍伯特·德瑞福斯（Hubert Lederer Dreyfus， 1929-）

　　Hubert L. Dreyfus，《機(jī)械戰(zhàn)警》里面出現(xiàn)某個(gè)反對(duì)機(jī)器人有自動(dòng)開(kāi)火能力的哲學(xué)家和這個(gè)哲學(xué)家的名字一樣的，我認(rèn)為編劇是故意這么干的，因?yàn)樗诿绹?guó)是非常有名的搞人工智能哲學(xué)的專(zhuān)家。他為什么要去搞人工智能哲學(xué)？

非常有意思，根據(jù)他自己和記者的講法，這和他在麻省理工學(xué)院教學(xué)時(shí)所遭到的一些刺激相關(guān)。在1962年就有學(xué)生明白地告訴他，哲學(xué)家關(guān)于人性的思辨現(xiàn)在都過(guò)時(shí)了，因?yàn)殚}斯基等AI科學(xué)家據(jù)說(shuō)在不久后就可以用工程學(xué)的方法實(shí)現(xiàn)人類(lèi)智能的方方面面。

德氏覺(jué)得這話近乎于天方夜譚，但是為了做到公允起見(jiàn)，他還是在不久后去了美國(guó)的頂級(jí)民間智庫(kù)“藍(lán)德公司”（Rand Corporation）進(jìn)行調(diào)研——因?yàn)榍∏≡谀莻€(gè)時(shí)候，司馬賀、紐艾爾和肖（Cliff Shaw）等AI界的頂級(jí)大腕也正在那里從事研究。經(jīng)過(guò)一段時(shí)間的分析以后，德氏最后確定自己對(duì)于當(dāng)時(shí)的AI規(guī)劃的懷疑乃是有根據(jù)的，并在1965年扔出了他擲向主流AI界的第一塊板磚：《煉金術(shù)和AI》（Dreyfus 1965）。

德氏對(duì)于主流AI進(jìn)路的批評(píng)意見(jiàn)很多，其中比較有意思的一條是，真實(shí)的思維是不能夠被明述的程序所窮盡的。比如說(shuō)你在打網(wǎng)球的時(shí)候，是不是得先看到了球，然后計(jì)算其入球的角度，計(jì)算你的拍子接球的角度以及速度，最后才能夠接到球？顯然不是這樣的，因?yàn)橛缮鲜鲇?jì)算所帶來(lái)的運(yùn)算負(fù)荷是很高的，我們?nèi)祟?lèi)的大腦未必“消費(fèi)得起”。

實(shí)際上，熟練的網(wǎng)球手僅僅是憑借某種前符號(hào)規(guī)則的直覺(jué)領(lǐng)悟才能夠把握到接球的正確時(shí)機(jī)的——而對(duì)于這些直覺(jué)本身，傳統(tǒng)的程序設(shè)計(jì)方案卻往往是無(wú)能為力的。

不過(guò)，德氏本人并不認(rèn)為所有的AI進(jìn)路都無(wú)力解決上述問(wèn)題。換言之，一些更為新穎的AI進(jìn)路或許能夠?qū)θ绾伟盐者@些前符號(hào)的直觀提供方案。他認(rèn)為，這些進(jìn)路必須更為忠實(shí)地反映身體的結(jié)構(gòu)，以及身體和環(huán)境之間的互動(dòng)關(guān)系，而不僅僅是在符號(hào)的內(nèi)部世界中打轉(zhuǎn)。他的這個(gè)想法，以后在AI專(zhuān)家布魯克斯的理論建樹(shù)中得到了發(fā)揚(yáng)光大。

布魯克斯在論文《大象不下棋》中以哲學(xué)家的口吻評(píng)價(jià)道：新潮AI是建立在物理根據(jù)假設(shè)（physical grounding hypothesis）之上的。該假設(shè)說(shuō)的是，為了建立一個(gè)足夠智能的系統(tǒng)，我們就絕對(duì)需要將其表征的根據(jù)奠定在物理世界之中。我們關(guān)于這一工作路徑的經(jīng)驗(yàn)告訴我們，一旦我們做出了這種承諾，那種對(duì)于傳統(tǒng)符號(hào)表征的要求就會(huì)馬上變得黯淡無(wú)光。

?

　　AI專(zhuān)家羅德尼·布魯克斯

這里的核心命意在于，世界就是認(rèn)知系統(tǒng)所能有的最好的模型。世界一直能夠及時(shí)更新自身。它總是包含了需要被了解的一些細(xì)節(jié)。這里的訣竅就是要讓系統(tǒng)以恰當(dāng)之方式感知世界，而這一點(diǎn)常常就足夠了。為了建立體現(xiàn)此假設(shè)的模型，我們就得讓系統(tǒng)通過(guò)一系列感知器和執(zhí)行器而與世界相聯(lián)系。而可被打印的字符輸入或輸出將不再引起我們的興趣，因?yàn)樗麄冊(cè)谖锢硎澜缰腥狈Ω鶕?jù)。

按照布魯克斯的看法，AlphaGo打敗李世石很偉大嗎？他第一個(gè)反應(yīng)是有什么了不起？因?yàn)樗J(rèn)為智能的重要性不是在于下棋，舉出他的反例是大象不下棋，你造一個(gè)人造大象，模擬大象的所有生命活動(dòng)，其實(shí)大象有很復(fù)雜的活動(dòng)。或者海豚不下棋，你造一個(gè)人造海豚，下棋算什么本事？什么德州撲克，他都不在乎。他更關(guān)心怎么制造智能系統(tǒng)和外部世界由嵌入式的認(rèn)知，能夠把外部世界本身直接當(dāng)作這樣的認(rèn)知對(duì)象，而不是當(dāng)中造出一個(gè)中間的符號(hào)。

這種想法在很大程度上具有一定哲學(xué)上的創(chuàng)新性，布魯克斯本身的研究更加注重的是對(duì)機(jī)器昆蟲(chóng)這種低等動(dòng)物的行走能力的模擬，對(duì)高級(jí)智能是比較輕視的。這也是建立在很基本的觀察上，人工智能研究的特點(diǎn)是小孩子越是容易做到的事，現(xiàn)在人工智能越難做到。比如很大程度的感知、把握，這是非常困難的。

為何科學(xué)訓(xùn)練中缺席哲學(xué)訓(xùn)練？

??? 首先，對(duì)于處于“學(xué)徒期”的科學(xué)入門(mén)者而言，學(xué)會(huì)服從既定的研究范式乃是其第一要?jiǎng)?wù)，而對(duì)這些范式的“哲學(xué)式懷疑”則會(huì)導(dǎo)致其無(wú)法入門(mén)，而不是像哲學(xué)一樣，在這個(gè)范式以外還有其他的可能性，有不同意見(jiàn)的交流。

　　第二，嚴(yán)格的一級(jí)、二級(jí)、三級(jí)學(xué)科分類(lèi)導(dǎo)致學(xué)生們忙于如何熟悉特定領(lǐng)域內(nèi)的研究規(guī)范，而無(wú)暇開(kāi)拓視野，浮想聯(lián)翩。根據(jù)我對(duì)教育部的分類(lèi)了解，人工智能在中國(guó)是不存在的學(xué)科，這是很奇怪的事。

　　稍微對(duì)人工智能這門(mén)學(xué)科了解的人都知道，大概十幾年前搞人工智能的人不敢說(shuō)自己搞人工智能，怕被扔磚頭，大家認(rèn)為是騙子，現(xiàn)在行情突然發(fā)生變化。如果你站在具體學(xué)科分類(lèi)的內(nèi)部來(lái)看學(xué)科，你就不容易受到其他學(xué)科的思維方式的滋養(yǎng)。

　　第三，對(duì)于權(quán)威科學(xué)模式的服從，在很大程度上使大家不愿意接受異說(shuō)。人工智能學(xué)科最大的特點(diǎn)是很喜歡攻擊對(duì)方是異說(shuō)，現(xiàn)在深度學(xué)習(xí)起來(lái)了，但深度學(xué)習(xí)的前身是神經(jīng)元網(wǎng)絡(luò)，它最大的敵人就是符號(hào)AI，符號(hào)AI和神經(jīng)網(wǎng)絡(luò)之間的關(guān)系基本是曹操和劉備的關(guān)系，就是漢賊不兩立，雙方幾乎在人脈、資金、學(xué)術(shù)觀點(diǎn)所有地方展開(kāi)比《甄嬛傳》還要激烈的宮爭(zhēng)。

現(xiàn)在從整體看來(lái)，神經(jīng)元網(wǎng)絡(luò)的兒子就是深度學(xué)習(xí)占據(jù)了比較高的位置，歷史上它被打壓的間很長(zhǎng)。我自己觀察下來(lái)，人工智能中不同的爭(zhēng)論是對(duì)資金的方向的控制。

　　傳統(tǒng)AI最典型的哲學(xué)問(wèn)題是框架問(wèn)題：

常識(shí)告訴我們，手若抓起了積木，只會(huì)改變積木的位置，卻不會(huì)改變積木的顏色以及大小，因?yàn)槭肿シe木這個(gè)動(dòng)作和被抓對(duì)象的顏色以及尺寸無(wú)關(guān)。但一個(gè)AI系統(tǒng)卻又如何知道這一點(diǎn)呢？除非你在定義“手抓”動(dòng)作的時(shí)候得說(shuō)清，這個(gè)動(dòng)作一定不會(huì)引起什么。

但這種定義必然是非常冗長(zhǎng)的，因?yàn)檫@會(huì)逼得你事先將事物的任何方面都羅列清楚，并將這些方面在相應(yīng)的“框架公理”中予以事先的排除。很顯然，對(duì)于“手抓”命令的任何一次執(zhí)行，都會(huì)調(diào)用到這些公理，這就會(huì)使得系統(tǒng)在執(zhí)行任何一個(gè)簡(jiǎn)單任務(wù)的時(shí)候都會(huì)消耗大量的認(rèn)知資源。然而，我們又都期盼系統(tǒng)能夠用比較少的資源來(lái)解決這些看似簡(jiǎn)單的任務(wù)。這就構(gòu)成了一個(gè)巨大的沖突。

語(yǔ)義相關(guān)性究竟是怎么一回事情？既然計(jì)算機(jī)的在句法運(yùn)作的層面上只能夠根據(jù)符號(hào)的形式特征進(jìn)行操作，它又是如何理解自然語(yǔ)詞之間的內(nèi)涵性語(yǔ)義關(guān)聯(lián)的？形式邏輯，或者別的形式系統(tǒng)，究竟是否可能以一種簡(jiǎn)便的方式刻畫(huà)語(yǔ)義相關(guān)性？

你可以預(yù)先在邏輯、公理里面說(shuō)清楚所有事情之間的相關(guān)、不相關(guān)，但是沒(méi)有辦法寫(xiě)成一個(gè)可以執(zhí)行的程序。你寫(xiě)這樣的程序，在任何一種情況下，你的機(jī)械手舉起任何一塊積木，這件事情只會(huì)導(dǎo)致它的位移，而不會(huì)改變被舉起來(lái)的積木的顏色。你覺(jué)得啰嗦嗎？這不是最可怕的，更可怕的是機(jī)器會(huì)不停問(wèn)你，會(huì)引起這個(gè)、引起那個(gè)嗎？很煩，因?yàn)闄C(jī)器不懂我們一下子能把握的相關(guān)性和不相關(guān)性，這是很恐怖的。

所以丹尼爾·丹尼特寫(xiě)了一篇論文說(shuō)，如果你用這個(gè)原理去造一個(gè)拆彈機(jī)器人，剪黃線還是剪紅線、剪線會(huì)引起什么，他想半天，炸彈炸了。因?yàn)榧粽◤椀木€是有時(shí)間限制的。你不能想象這個(gè)東西是有用的東西。

三、從哲學(xué)的角度反思現(xiàn)在自然語(yǔ)言處理與機(jī)器翻譯

我們?cè)倏幢容^新的話題，從哲學(xué)的角度反思現(xiàn)在的自然語(yǔ)言處理與機(jī)器翻譯，嚴(yán)格的說(shuō)，自然語(yǔ)言處理是大概念，機(jī)器翻譯是一個(gè)小概念。機(jī)器翻譯是屬于自然語(yǔ)言處理的，但有時(shí)候會(huì)把它分開(kāi)來(lái)說(shuō)。

現(xiàn)在機(jī)器翻譯歷史上有不同的路數(shù)，有基于神經(jīng)元網(wǎng)絡(luò)，基于統(tǒng)計(jì)的，基于符號(hào)的，基于中間語(yǔ)的，還有很多、很多路數(shù)。但是深度學(xué)習(xí)牛掰起來(lái)以后，大家都用深度學(xué)習(xí)來(lái)做，很大程度上，深度學(xué)習(xí)做機(jī)器翻譯也將流行，也結(jié)合了一些大數(shù)據(jù)的方法。

“深度學(xué)習(xí)”技術(shù)，主要是作為一種“工程學(xué)技巧”進(jìn)入我們的視野的。實(shí)際上，我們目前尚無(wú)法在科學(xué)層面上清楚地說(shuō)明：“深度學(xué)習(xí)”技術(shù)為何能夠提高相關(guān)程序之應(yīng)用表現(xiàn)——遑論在哲學(xué)層面上為這種“進(jìn)步”的“可持續(xù)性”提供辯護(hù)。

傳統(tǒng)的神經(jīng)元網(wǎng)絡(luò)和深度學(xué)習(xí)相比，它的特點(diǎn)是中間處理層層數(shù)比較少，而現(xiàn)在的深度學(xué)習(xí)靠硬件的進(jìn)步，可以把中間的處理層做成幾十層上百層，這是以前不可想象的。做多以后，在很大程度上分析問(wèn)題的層次感就多了，因?yàn)樗鼘訑?shù)越多就可以用不同的角度和層數(shù)分析問(wèn)題，因此，很大程度上處理問(wèn)題的手段就更加細(xì)膩了。的確體現(xiàn)出一種明顯的工程學(xué)的進(jìn)步。

很大的問(wèn)題是，這種進(jìn)步是否可持續(xù)？我自己站在哲學(xué)領(lǐng)域是持保留意見(jiàn)，我認(rèn)為可以搞搞，但是認(rèn)為這件事最后能做成像霍金所說(shuō)的毀滅人類(lèi)的超級(jí)人工智能是胡扯。我們可以借一些例子來(lái)討論、討論。

傳統(tǒng)的人工神經(jīng)元網(wǎng)絡(luò)有輸入層、中間層和輸出層，通過(guò)數(shù)據(jù)的處理得到一個(gè)輸出，通過(guò)反饋算法等等東西來(lái)弄，它的最重要的是要調(diào)整計(jì)算單元之間的權(quán)重，通過(guò)這種權(quán)重的調(diào)整，慢慢的讓它的適應(yīng)一類(lèi)任務(wù)。傳統(tǒng)的神經(jīng)元網(wǎng)絡(luò)最大的特點(diǎn)是，它能夠執(zhí)行的任務(wù)是比較單一的，也就是說(shuō)它完成一個(gè)任務(wù)以后做了什么，就永遠(yuǎn)的恒定在這個(gè)表現(xiàn)的水準(zhǔn)上做這個(gè)事。

如果你讓他在大量幀數(shù)的畫(huà)面里，在所有有劉德華的臉出現(xiàn)的圖片里面做標(biāo)記，他開(kāi)始標(biāo)記的水平比較差，但是他標(biāo)記的至少比另外一臺(tái)機(jī)器好，另外一臺(tái)機(jī)器把關(guān)之琳的臉也標(biāo)成劉德華，你的機(jī)器至少在正確的道路上，隨著時(shí)間推移，通過(guò)訓(xùn)練慢慢能做了。然后劉德華演一部新電影，這電影剛剛上映，顯然不是在訓(xùn)練樣本里面，讓他辨認(rèn)里面是誰(shuí)，分得很清楚，劉德華、吳彥祖、關(guān)之琳，分得很清楚，訓(xùn)練成功。

現(xiàn)在給它一個(gè)新任務(wù)，現(xiàn)在不是認(rèn)人臉，是認(rèn)一個(gè)完全不同的東西，練什么東西呢？假設(shè)是一部武打電影，里面也有劉德華參與，但是不要認(rèn)劉德華，把所有打螳螂拳或者詠春拳的畫(huà)面選出來(lái)，我沒(méi)學(xué)過(guò)，如果你要做這件事，這個(gè)機(jī)器要重新來(lái)進(jìn)行調(diào)整。

但是人類(lèi)可以做一個(gè)推理，比如人類(lèi)如果已經(jīng)知道了甄子丹經(jīng)常演葉問(wèn)，而葉問(wèn)是打詠春拳的，而人類(lèi)已經(jīng)學(xué)會(huì)了識(shí)別甄子丹，如果一部電影我給你一個(gè)任務(wù)，到底哪些畫(huà)面是在打詠春拳？你不用看什么拳，你盯著葉師傅，盯著甄子丹就可以。

這里面有三段論推理，非常方便的從一個(gè)知識(shí)領(lǐng)域到另外一個(gè)知識(shí)領(lǐng)域。怎么識(shí)別甄子丹是一個(gè)領(lǐng)域，誰(shuí)在打拳、誰(shuí)在打葉問(wèn)的詠春拳，這是另外一個(gè)知識(shí)領(lǐng)域。當(dāng)中有一個(gè)橋，就是葉問(wèn)老師是由甄子丹扮演的，而甄子丹扮演的葉問(wèn)老師是打這個(gè)拳的，你有這個(gè)橋，兩個(gè)知識(shí)就可以合二為一。

現(xiàn)在的問(wèn)題也就是說(shuō)，這對(duì)于符號(hào)AI來(lái)說(shuō)很容易的事，對(duì)神經(jīng)元網(wǎng)絡(luò)是很難的。現(xiàn)在很多人說(shuō)要把符號(hào)AI和神經(jīng)元網(wǎng)絡(luò)結(jié)合在一起，但是這個(gè)結(jié)合點(diǎn)怎么找？實(shí)際上困難很大。深度學(xué)習(xí)只是它的的升級(jí)版，它是非常高級(jí)的升級(jí)版。大家覺(jué)得AlphaGo打敗李世石是非常了不起的事，實(shí)際上這是遲早發(fā)生的事，因?yàn)樗荒芫窒拊趪暹@一個(gè)網(wǎng)絡(luò)。同樣一個(gè)深度學(xué)習(xí)系統(tǒng)同時(shí)做兩件事，才算牛掰。

美國(guó)的生物統(tǒng)計(jì)學(xué)家Jeff Leek最近撰文指出，除非你具有海量的訓(xùn)練用數(shù)據(jù)，否則深度學(xué)習(xí)技術(shù)就會(huì)成為“屠龍之術(shù)”。有些人認(rèn)為他的觀點(diǎn)是不對(duì)的，但是我還是傾向于認(rèn)為深度學(xué)習(xí)和神經(jīng)元網(wǎng)絡(luò)需要大量的訓(xùn)練樣本，把某種模式重復(fù)性的呈現(xiàn)出來(lái)，讓他抓到規(guī)律，整臺(tái)系統(tǒng)才能慢慢調(diào)到很好的水平。請(qǐng)問(wèn)前面的數(shù)據(jù)是不是在任何一種場(chǎng)合都能夠獲得呢？這顯然不是那么容易的。

　　哲學(xué)家柏拉圖會(huì)怎么評(píng)價(jià)目下的機(jī)器翻譯？

伯拉圖有一個(gè)東西叫《美諾篇》，主要是以對(duì)話形式來(lái)寫(xiě)他的哲學(xué)著作。《美諾篇》里面有一個(gè)重要的橋段，一個(gè)從未學(xué)過(guò)幾何學(xué)的小奴隸在哲學(xué)家蘇格拉底的指導(dǎo)下學(xué)會(huì)了幾何證明。旁邊的人反復(fù)問(wèn)，你真的沒(méi)有學(xué)過(guò)幾何學(xué)嗎？怎么證明那么好？小奴隸說(shuō)，真沒(méi)學(xué)過(guò)。旁邊人證明，這小子字都不識(shí)，希臘文字母表都背不下來(lái)。

由此引發(fā)的問(wèn)題是：小奴隸的“心智機(jī)器”，究竟是如何可能在“學(xué)習(xí)樣本缺乏”的情況下獲取有關(guān)于幾何學(xué)證明的技能的呢？而后世的語(yǔ)言學(xué)家喬姆斯基則沿著柏拉圖的思路，問(wèn)出了一個(gè)類(lèi)似的問(wèn)題：0-3歲的嬰幼兒是如何在語(yǔ)料刺激相對(duì)貧乏的情況下，學(xué)會(huì)復(fù)雜的人類(lèi)語(yǔ)法的？——換言之，按照柏拉圖—喬姆斯基的看法，任何一種對(duì)于人類(lèi)語(yǔ)言能力的建模方案，如果無(wú)法具備對(duì)于“刺激的貧乏性”（the poverty of stimuli）的容忍性的話，那么相關(guān)的建模成果就不能被說(shuō)成是具備對(duì)于人類(lèi)語(yǔ)言的理解能力的。

喬姆斯基的解釋是人有先天語(yǔ)法結(jié)構(gòu)的能力。人家問(wèn)喬姆斯基，這個(gè)東西怎么來(lái)的？他說(shuō)，這是進(jìn)化當(dāng)中的基因突變導(dǎo)致的。我最近美國(guó)開(kāi)議事大會(huì)，碰到喬姆斯基，他一方面承認(rèn)這肯定是進(jìn)化基因突變的，但是另一方面又否認(rèn)我們可能用經(jīng)驗(yàn)手段去嚴(yán)格的研究語(yǔ)言進(jìn)化的某個(gè)歷史瞬間到底發(fā)生了什么，因?yàn)樗J(rèn)為我們?nèi)狈ψ匪輲资f(wàn)年的語(yǔ)言基因突變的經(jīng)驗(yàn)?zāi)芰Α?/span>

我并不完全贊成他的觀點(diǎn)，但是有一點(diǎn)我贊成他，他正確的提出一個(gè)問(wèn)題，這個(gè)問(wèn)題就是機(jī)器學(xué)習(xí)主流沒(méi)有辦法解決的問(wèn)題。小朋友是怎么做到這么小就可以掌握語(yǔ)法？

按照按照喬姆斯基的標(biāo)準(zhǔn)或者伯拉圖、蘇格拉底的標(biāo)準(zhǔn)，，我們是否可以認(rèn)為目前基于深度學(xué)習(xí)的機(jī)器翻譯技術(shù)是能夠理解人類(lèi)語(yǔ)言的呢？答案是否定的。

實(shí)際上，已經(jīng)有專(zhuān)家指出，目前的深度學(xué)習(xí)機(jī)制所需要的訓(xùn)練樣本的數(shù)量應(yīng)當(dāng)是“谷歌級(jí)別”的——換言之，小樣本的輸入往往會(huì)導(dǎo)致參數(shù)復(fù)雜的系統(tǒng)產(chǎn)生“過(guò)度擬合”（overfitting）的問(wèn)題。也就是說(shuō)，系統(tǒng)一旦適應(yīng)了初始的小規(guī)模訓(xùn)練樣本中的某些特設(shè)性特征，就無(wú)法靈活地處理與訓(xùn)練數(shù)據(jù)不同的新數(shù)據(jù)。

　　一句話，湊數(shù)湊得太假了，以至于難以應(yīng)對(duì)世界的真正的復(fù)雜性！

舉個(gè)例子，一個(gè)人說(shuō)她自己很適合談戀愛(ài)，很適合和異性交往。她談第一次戀愛(ài)，兩個(gè)人如膠似漆，而且她的戀愛(ài)對(duì)象是非常奇葩的男人，非常宅，邋遢，很奇怪，別的男人對(duì)他也有意見(jiàn)，但是這個(gè)女人和他一拍即合。這就是過(guò)擬合。

你作為她的閨秘會(huì)擔(dān)心一件事，她和這個(gè)男人分手以后，能不能適應(yīng)正常的男人？按照統(tǒng)計(jì)學(xué)來(lái)看，第一次戀愛(ài)成功的概率是很低，如果你第一次就過(guò)擬合了，你以后怎么玩這個(gè)游戲？這很麻煩，這是戀愛(ài)中過(guò)擬合的問(wèn)題，和誰(shuí)都特別熟，黏住誰(shuí)就是誰(shuí)，分不開(kāi)，他什么毛病也傳給你，以至于你不能和第二個(gè)人談戀愛(ài)。

另外一種是不擬合，就是和誰(shuí)都不來(lái)電。按照機(jī)器訓(xùn)練來(lái)說(shuō)就是怎么訓(xùn)練都訓(xùn)練不出來(lái)。一種太容易訓(xùn)練出來(lái)，太容易訓(xùn)練出來(lái)的問(wèn)題是我現(xiàn)在用這組數(shù)據(jù)很容易把你訓(xùn)練出來(lái)，以后真實(shí)世界中真實(shí)數(shù)據(jù)和實(shí)驗(yàn)室不一樣，你能不能應(yīng)付？

就語(yǔ)言論語(yǔ)言，新數(shù)據(jù)與訓(xùn)練數(shù)據(jù)不同恐怕會(huì)是某種常態(tài)，因?yàn)槟軌蚋鶕?jù)既有的語(yǔ)法構(gòu)造出無(wú)窮多的新表達(dá)式，本就是一切自然語(yǔ)言習(xí)得者所都具備的潛能。如果我愿意，我可以用大家聽(tīng)得懂的漢語(yǔ)跟大家描述各種各樣的奇葩狀態(tài)。這是語(yǔ)言的特點(diǎn)。也就是說(shuō)既有的語(yǔ)法允許我們構(gòu)造出無(wú)窮多的新表達(dá)式。

能夠用既有的語(yǔ)法構(gòu)造更多的新表達(dá)式，是任何一個(gè)語(yǔ)言習(xí)得者的能力，能夠聽(tīng)懂別人用你的母語(yǔ)所表達(dá)的任何一種奇葩的表達(dá)式，也是一個(gè)合格語(yǔ)言習(xí)得者的能力，這個(gè)能力是何等的平常，但是對(duì)于機(jī)器來(lái)說(shuō)是多么的稀奇。

換言之，無(wú)論基于深度學(xué)習(xí)技術(shù)的機(jī)器翻譯系統(tǒng)已經(jīng)通過(guò)多大的訓(xùn)練量完成了與既有數(shù)據(jù)的“擬合”，只要新輸入的數(shù)據(jù)與舊數(shù)據(jù)之間的表面差距足夠大，“過(guò)度擬合”的幽靈就都一直會(huì)在附近徘徊。

所以從過(guò)去當(dāng)中永遠(yuǎn)沒(méi)有辦法必然的推出關(guān)于未來(lái)的知識(shí)或者關(guān)于未來(lái)我們不能有真正的知識(shí)，這是休謨哲學(xué)的相論點(diǎn)，他沒(méi)有用什么擬合、不擬合的數(shù)據(jù)，因?yàn)樗?dāng)時(shí)不知道深度學(xué)習(xí)。但是你會(huì)發(fā)現(xiàn)，過(guò)很多年，休謨的哲學(xué)問(wèn)題沒(méi)有解決。

從本人的哲學(xué)立場(chǎng)來(lái)看，未來(lái)人工智能需要做的事情：

1.?首先要在大的目標(biāo)上指出通用人工智能是一個(gè)大的目的。

　　很多人給我說(shuō)通用人工智能做不出來(lái)，我的書(shū)指出了，所有指出通用人工智能做不出來(lái)的論證是不成立的。第二個(gè)如果你相信某些人所說(shuō)的，人工智能將對(duì)人類(lèi)生產(chǎn)生活產(chǎn)生顛覆性的影響，而不是過(guò)去的自動(dòng)化的零敲碎打的影響，只有通用人工智能才能對(duì)未來(lái)的生活進(jìn)行顛覆性的影響。因?yàn)閷?zhuān)用人工智能不可能真正取代人的工作，只有通用人工智能能做到。

　　比如家政服務(wù)員，讓機(jī)器人做，你知道家務(wù)有多麻煩嗎，家務(wù)有多難做嗎？我始終覺(jué)得做家務(wù)比做哲學(xué)燒腦，我一直覺(jué)得做家務(wù)合格的機(jī)器人比做哲學(xué)還是要更慢一點(diǎn)，你十個(gè)人都喊著文本都是一個(gè)文本，十個(gè)人不同家庭的打掃情況就是不同。

　　這個(gè)人家里書(shū)很多，但他不希望你理得很整齊，另外一個(gè)人家里有很多書(shū)，但是希望你理得很整齊。這個(gè)小朋友3歲，喜歡書(shū)。這個(gè)地方有小朋友13歲，很不喜歡看書(shū)。這些問(wèn)題都復(fù)雜，人都要被弄崩潰，機(jī)器怎么搞得清楚？

2. 認(rèn)知語(yǔ)言學(xué)的算法化。

3. 基于意義的普遍推理引擎，而不能把推理看成形式、邏輯的事情，而要認(rèn)為這和意義有關(guān)。

4. 節(jié)儉性算法與該推理引擎的結(jié)合，我們的計(jì)算要從小數(shù)據(jù)出發(fā)，要體現(xiàn)節(jié)儉性，不能依賴大數(shù)據(jù)。

5. 結(jié)合認(rèn)知心理學(xué)研究加入人工情緒等新要素。

蘇格拉底：我不能教任何人、任何事，我只能讓他們思考