AI大佬懟懟懟的背后,究竟暗藏哪些玄機(jī)?
四年前,紐約大學(xué)教授Marcus為反駁深度學(xué)習(xí)三巨頭之一Bengio的“有意識(shí)先驗(yàn)”和“解糾纏觀念”理論,發(fā)表了一 篇名為《Deep Learning: A Critical Appraisal》的論文,長(zhǎng)達(dá)27頁(yè)。概括來說,就是針對(duì)Bengio和Lecun所認(rèn)為的“深度學(xué)習(xí)是通向未來AI無可替代路徑”的深度批判。 然而,就在Marcus筆跡未干之際,深度學(xué)習(xí)三巨頭的另一位——Lecun就在推特上回懟: “Thoughtful, perhaps. But mostly wrong nevertheless.(有想法,可能吧。但大部分都錯(cuò)了)?!痹赮ann Lecun看來,Gary混淆了“深度學(xué)習(xí)”和“監(jiān)督學(xué)習(xí)”的概念,所以“mostly wrong”。
正因?yàn)檫@段話,有了他們的最新battle。針對(duì)近日LeCun在ZDNet的采訪中的自我否定:“已放棄使用生成網(wǎng)絡(luò)從這一幀預(yù)測(cè)視頻下一幀的研究,這是一次徹底的失敗”??吹轿羧諏?duì)手的自證失敗,Marcus自然不能錯(cuò)過“自證清白”的機(jī)會(huì),在他看來,LeCun現(xiàn)在說的都是他之前說過的,大部分內(nèi)容都在上述論文中,但LeCun當(dāng)時(shí)還嘲笑“mostly wrong”。
而在他發(fā)出此言論之前,Lecun已經(jīng)在采訪中對(duì)這位老對(duì)手發(fā)起了新一輪“攻擊”:“Gary Marcus不是做AI的,而是一個(gè)心理學(xué)家,從未對(duì)人工智能做出任何貢獻(xiàn)?!?/span> Marcus當(dāng)然也不能讓他:“LeCun不想讓別人發(fā)現(xiàn)他響應(yīng)過我曾經(jīng)的觀點(diǎn),也不對(duì)這些觀點(diǎn)分享任何credit,這違反學(xué)術(shù)禮儀。另外,為了讓別人不信任我,他在采訪中對(duì)我進(jìn)行了無端的、完全不實(shí)的抨擊……” 大佬們吵得熱鬧,但他們究竟在吵什么?能夠這樣十年如一日地吵來吵去,究竟因?yàn)槟男┰瓌t問題必須如此當(dāng)仁不讓?
爭(zhēng)論的背后:符號(hào)、控制、連接學(xué)派哪家強(qiáng)?
在四年前的爭(zhēng)論中,Marcus認(rèn)為:“深度學(xué)習(xí)必須通過一些借鑒自經(jīng)典符號(hào)系統(tǒng)的操作得到增強(qiáng),也就是說需要充分利用經(jīng)典人工智能技術(shù)(允許顯式地表示層次結(jié)構(gòu)和抽象規(guī)則)的混合模型,并將其同深度學(xué)習(xí)的優(yōu)勢(shì)相結(jié)合?!?/span> 事實(shí)上,符號(hào)學(xué)派的歷史頗為悠久,如果說蒸汽機(jī)和發(fā)動(dòng)機(jī)開啟了第一次產(chǎn)業(yè)革命,內(nèi)燃機(jī)和電動(dòng)機(jī)發(fā)動(dòng)了第二次產(chǎn)業(yè)革命。人工智能掀起的新一輪從模擬化到數(shù)字化的革命就是自符號(hào)學(xué)派開始的。從機(jī)器定理證明,到跳棋程序,再到LSP處理語言和通用問題S求解程序……繼承了圖靈測(cè)試的衣缽,符號(hào)學(xué)派最初認(rèn)為人工智能的本質(zhì)是對(duì)符號(hào)的邏輯運(yùn)算——邏輯思維通過計(jì)算機(jī)中邏輯門的運(yùn)算模擬出來,進(jìn)而實(shí)現(xiàn)機(jī)械化的人類認(rèn)知,形成人工智能。 在人工智能概念提出者M(jìn)cCarthy闡明其數(shù)理邏輯思維模式之后,Newell和Simon將他的觀點(diǎn)進(jìn)一步推演為“物理符號(hào)系統(tǒng)假說”,該假說進(jìn)一步將數(shù)理邏輯的模式推導(dǎo)至物理模式也可能產(chǎn)生智能行為。和數(shù)理邏輯通過運(yùn)算模擬不同,因?yàn)槲锢矸?hào)聚焦在人類思考的高級(jí)行為上,所以認(rèn)為推理、規(guī)劃、知識(shí)等都可以通過符號(hào)轉(zhuǎn)化。 從符號(hào)學(xué)派的底層認(rèn)知邏輯不難看出,Lecun為什么會(huì)認(rèn)為Marcus是心理學(xué)家,所以大佬們的撕逼也是從認(rèn)知的本體論出發(fā)的。既然斷定通過人類思考的符號(hào)轉(zhuǎn)化無法達(dá)成真正的人工智能,那又有哪路神仙可以點(diǎn)化呢? 時(shí)間回到1943年,神經(jīng)科學(xué)家McCulloch和數(shù)學(xué)家Pitts合著論文《神經(jīng)活動(dòng)中內(nèi)在思想的邏輯演算》,最早開啟通過大腦神經(jīng)元解釋思維過程,并通過大量非線性并行處理器模擬人類神經(jīng)元的實(shí)現(xiàn)方法。這一后來發(fā)展為連接學(xué)派的理論,從更為科學(xué)的人腦神經(jīng)出發(fā)解釋人類行為產(chǎn)生的動(dòng)力機(jī)制。但理念誕生雖早,真正實(shí)現(xiàn)落地實(shí)踐卻是后話,這里只是埋下了伏筆。 上世紀(jì)60年代,隨著機(jī)器翻譯的宣告失敗,符號(hào)學(xué)派在產(chǎn)業(yè)界逐漸式微。取而代之的是行為學(xué)派。這一派的早期代表人物是控制論創(chuàng)始人Wiener,在二戰(zhàn)期間,他接受了一項(xiàng)與火力控制相關(guān)的研究工作。那時(shí)候他的研究主要基于如何讓只有1/3000擊中飛機(jī)概率的火炮提升精準(zhǔn)度,在沒有控制論概念的時(shí)代,機(jī)械思維的結(jié)果只能是無窮盡的提升零件的精度,思考維度大大限制了可達(dá)成的目標(biāo)。 Wiener通過汽車的制動(dòng)原理聯(lián)想:我們?cè)隈{駛汽車的時(shí)候并不是瞄準(zhǔn)一個(gè)方向就一頭扎過去,那為什么發(fā)射出的炮彈不能通過微調(diào)一點(diǎn)點(diǎn)的到達(dá)指定目標(biāo)呢?根據(jù)這樣的想法,他和其他科學(xué)家一起設(shè)計(jì)了一系列的自動(dòng)控制裝置和系統(tǒng),從而極大提高了火炮命中的精度?;谠诙?zhàn)中的嘗試,控制論在1948年正式提出。 控制論的核心在于除了自身因素外,基于外界環(huán)境不斷對(duì)各類輸入信息進(jìn)行反饋,從而達(dá)成系統(tǒng)控制的目的。這一理論的誕生,讓我們現(xiàn)在所熟知的傳感器開始應(yīng)用,基于傳感器的第一臺(tái)智能機(jī)器人也在這個(gè)時(shí)候誕生。但因?yàn)楦兄阅苓^于簡(jiǎn)單,并沒有開啟AI的大規(guī)模應(yīng)用。 到了80年代,神經(jīng)網(wǎng)絡(luò)開始登上AI的歷史舞臺(tái),這時(shí)據(jù)早期通過處理器模擬人類神經(jīng)元的設(shè)想已經(jīng)過去了三十多年。而它得以重現(xiàn)江湖的重要原因在于,隨著理論的不斷完善,科學(xué)家們突然在某天發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)居然具備自主的學(xué)習(xí)能力。 這一發(fā)現(xiàn)的標(biāo)志性事件之一發(fā)生在1986年,美國(guó)心理學(xué)家Rumelhart和深度學(xué)習(xí)之父Hinton發(fā)展了由心理學(xué)家Werbos在十二年前提出的BP算法,發(fā)表一篇反向傳播算法的論文。 此后20年,Hinton將神經(jīng)網(wǎng)絡(luò)由一層改進(jìn)為多層,深度學(xué)習(xí)進(jìn)入實(shí)證。再后來,吳恩達(dá)通過機(jī)器學(xué)習(xí)訓(xùn)練識(shí)別貓,DeepMind的AlphaGo戰(zhàn)勝世界圍棋冠軍,波士頓動(dòng)力的Atlas和Spot……都是通過不斷的深度學(xué)習(xí)實(shí)現(xiàn)視覺、認(rèn)知、NLP和自主行動(dòng)的一次次智能化突破。 而量子計(jì)算未來能夠?yàn)槿斯ぶ悄軒矶啻竽芰?,我們?nèi)孕枋媚恳源?/span>
無論什么流派,本質(zhì)還是對(duì)人的思考
不得不說,因?yàn)樯窠?jīng)網(wǎng)絡(luò)近二十年來在產(chǎn)業(yè)界所做出的杰出貢獻(xiàn),讓這一領(lǐng)域的各路AI大佬大放異彩。但通過對(duì)人工智能各流派底層邏輯的梳理,我們或許不應(yīng)該對(duì)哪個(gè)流派過度迷信,畢竟無論是符號(hào)、行為,還是連接學(xué)派,本質(zhì)上都是對(duì)人的認(rèn)知方式和行為方式,或基于器質(zhì),或基于意識(shí)的思考和實(shí)踐。 最后,我們?cè)賮沓猿怨稀?/span> 其實(shí)吧,此次爭(zhēng)論中被Lecun Cue到的遞歸神經(jīng)網(wǎng)絡(luò)之父Jürgen Schmidhuber也是AI界的懟懟紅人了。上面我們提到Rumelhart和Hinton發(fā)展了BP算法這事,還有后續(xù)。2019年,Hinton因?yàn)樵谌斯ぶ悄苌疃葘W(xué)習(xí)方法基礎(chǔ)的反向傳播算法上的貢獻(xiàn)獲得了本田獎(jiǎng)。Schmidhuber便發(fā)文對(duì)究竟是誰原創(chuàng)反向傳播提出了質(zhì)疑,在他看來,“應(yīng)該是Werbos在1982年明確提出了上述反向傳播算法的首個(gè)面向神經(jīng)網(wǎng)絡(luò)的應(yīng)用”。 與此同時(shí),Schmidhuber還申訴:“他(Hinton)的深度前饋神經(jīng)網(wǎng)絡(luò)是我1991年類似工作的翻版;1993年我的方法已經(jīng)能夠解決先前一些無法解決的‘非常深度學(xué)習(xí)’任務(wù)?!?/span> 但Lecun顯然是不認(rèn)的,而且不僅現(xiàn)在說他是“插旗的”,還曾認(rèn)為“Jürgen對(duì)眾人的認(rèn)可過于癡迷,總是說自己沒有得到應(yīng)得的很多東西。幾乎是慣性地,總是在別人每次講話結(jié)束時(shí)都要站起來,說剛剛提出的成果有他的功勞,大體上看,這種行為并不合理?!?/span> Lecun的最新回應(yīng):
“I really have not changed my basic view of the way forward in Al.
It's still based on DL, predictive world models, and self-supervised learning.” “我真的沒有改變對(duì)Al發(fā)展方向的基本看法。它仍然是基于DL(Deeplearning,深度學(xué)習(xí)),預(yù)測(cè)世界模型和自監(jiān)督學(xué)習(xí)?!?/span> 實(shí)際上,無論是哪個(gè)時(shí)代,科學(xué)大佬們的撕扯都無處不在。遙想三百多年前,牛頓、胡克、萊布尼茲也因?yàn)橐?、微積分的見解和知識(shí)產(chǎn)權(quán)歸屬問題爭(zhēng)得不可開交,而科學(xué)也在他們的爭(zhēng)論中不斷拆解、重塑和進(jìn)步。 所以,無論是四年前,還是四年后,大佬們的battle永遠(yuǎn)喋喋不休……