人工智能是真的懂我們嗎

人工智能進(jìn)步神速，獲得一定的理解力，可以回答簡(jiǎn)單的問(wèn)題。

理解是一個(gè)動(dòng)態(tài)的能力增長(zhǎng)區(qū)間。

為了讓系統(tǒng)產(chǎn)生理解力，需在不同的概念、狀態(tài)和操作之間建立系統(tǒng)聯(lián)系。

原文來(lái)自Medium，作者Thomas G. Dietterich

針對(duì)人工智能的最新進(jìn)展，一些批評(píng)家認(rèn)為，盡管人工智能進(jìn)步神速，但仍然沒(méi)有達(dá)到“真實(shí)的”、“準(zhǔn)確的”、“真正的”理解。這些詞語(yǔ)說(shuō)明“理解”是二元的：一個(gè)系統(tǒng)要么有“真正的”理解力，否則就沒(méi)有。

這種看法的問(wèn)題在于，人類的理解永遠(yuǎn)是不完整、不完美的。我認(rèn)為“理解”是一個(gè)動(dòng)態(tài)的能力增長(zhǎng)區(qū)間。以“水”為例。大多數(shù)人理解水的特性：濕的，可以喝，植物需要，受凍成冰等等。

但是，很多人不知道水也是一種電導(dǎo)體，所以不要在淋浴間里吹頭哦。然而，我們不會(huì)認(rèn)為這些人對(duì)“水”缺乏“真實(shí)的”、“準(zhǔn)確的”、“真正的”理解，相反，我們說(shuō)他們的理解不完整。

因此，我們應(yīng)該以同樣的態(tài)度評(píng)估人工智能系統(tǒng)?，F(xiàn)有的系統(tǒng)產(chǎn)生了一定的理解力，例如：如果我告訴Siri：“Siri，打電話給卡洛爾。”它會(huì)撥打正確的號(hào)碼，Siri沒(méi)有理解我的請(qǐng)求嗎？那可是大錯(cuò)特錯(cuò)了。

如果我問(wèn)Google：“誰(shuí)被IBM的深藍(lán)系統(tǒng)打??？”它會(huì)顯示一個(gè)信息框，大大的字母寫(xiě)著“Kasparov”，它也正確理解了我的問(wèn)題。當(dāng)然，這種理解力是有限的。如果我再問(wèn)：“時(shí)間？”，它會(huì)給出了字典中“時(shí)間”的定義，它無(wú)法結(jié)合上下文進(jìn)行回答。

關(guān)于“理解”的爭(zhēng)論可以追溯到亞里士多德時(shí)期，或許塞爾（Searle）的中文屋論證（Chinese Room argument）闡釋更清晰。我推薦大家閱讀《斯坦福哲學(xué)百科全書(shū)》（Stanford Encyclopedia of Philosophy）中科爾（Cole）的文章。

我認(rèn)為理解是功能主義的一種形式。我們從功能的角度描述理解的特征，并根據(jù)大腦或人工智能系統(tǒng)中各種內(nèi)部結(jié)構(gòu)作用，評(píng)估它們各自的貢獻(xiàn)。

從軟件工程的角度，功能主義鼓勵(lì)我們?cè)O(shè)計(jì)一系列測(cè)試測(cè)量系統(tǒng)功能。我們可以問(wèn)系統(tǒng)（或人）：“如果水的溫度降到零下20℃會(huì)發(fā)生什么？”或者“如果在淋浴間里使用吹風(fēng)機(jī)會(huì)怎樣？”然后評(píng)價(jià)它們的反潰如果反饋相對(duì)合理，我們可以說(shuō)系統(tǒng)能理解，而如果反饋是錯(cuò)的，我們則判斷系統(tǒng)無(wú)法理解。

為了讓系統(tǒng)產(chǎn)生理解力，我們需在不同的概念、狀態(tài)和操作之間建立系統(tǒng)聯(lián)系。今天的語(yǔ)言翻譯系統(tǒng)正確地將英語(yǔ)中的“water”與西班牙語(yǔ)中的“agua”聯(lián)系起來(lái)，但它們?cè)凇八焙汀坝|電”之間沒(méi)有建立任何聯(lián)系。

對(duì)人工智能新進(jìn)展的批評(píng)主要來(lái)自兩個(gè)方面。首先，圍繞人工智能的炒作（來(lái)自研究人員、其所屬組織、甚至是政府和資助機(jī)構(gòu)）已經(jīng)無(wú)所不用其極。甚至引發(fā)了對(duì)“超級(jí)智能”和“機(jī)器人啟示錄”的恐懼。要反駁這種無(wú)稽之談，理性批評(píng)還是可取的。

對(duì)于人工智能未來(lái)研究方向和政府資金分配的爭(zhēng)論還在繼續(xù)，批評(píng)是這一爭(zhēng)論的一部分。一方是聯(lián)結(jié)主義（connectionism）的倡導(dǎo)者，他們推動(dòng)了深度學(xué)習(xí)，支持繼續(xù)研究人工智能。另一方是人工智能符號(hào)和控制方法的倡導(dǎo)者（比如形式邏輯）。也有越來(lái)越多的人主張?jiān)诨旌霞軜?gòu)中結(jié)合這兩種方法。

批評(píng)同樣對(duì)這個(gè)方面的爭(zhēng)論有助益，因?yàn)槿斯ぶ悄芤欢〞?huì)不斷沖破我們的假設(shè)，并選擇如何使用社會(huì)的資源和金錢推進(jìn)人工智能科學(xué)和技術(shù)的發(fā)展。然而，我反對(duì)“深度學(xué)習(xí)系統(tǒng)沒(méi)有產(chǎn)生真正的理解，因此應(yīng)該放棄深度學(xué)習(xí)”這一觀點(diǎn)。

這種觀點(diǎn)和“深度學(xué)習(xí)系統(tǒng)已經(jīng)取得了巨大進(jìn)步，進(jìn)一步研究我們對(duì)智能將一覽無(wú)余。我喜歡拉卡托斯（Lakatos）的觀點(diǎn)，研究項(xiàng)目會(huì)一直進(jìn)行下去，直到它們不再有成果。

我認(rèn)為我們應(yīng)該繼續(xù)追求聯(lián)結(jié)主義、符號(hào)象征（symbolic representaTIonalist）以及新興的混合方案，因?yàn)樗鼈冊(cè)谖磥?lái)大有可為。

對(duì)深度學(xué)習(xí)的批評(píng)催生新的發(fā)展方向。特別是，深度學(xué)習(xí)系統(tǒng)在各種基準(zhǔn)任務(wù)的表現(xiàn)堪比人類，卻無(wú)法總結(jié)表面上非常相似的任務(wù)，這使機(jī)器學(xué)習(xí)產(chǎn)生了危機(jī)。研究人員正在思索新的應(yīng)對(duì)方案，例如不變量、研究因果模型，這些既適用于符號(hào)學(xué)習(xí)，也適用于聯(lián)結(jié)主義的方式。

我認(rèn)為，我們應(yīng)該追求人工智能科學(xué)技術(shù)的進(jìn)步，而不是就“真正的”理解定義侃侃而談。相反，重點(diǎn)該放在未來(lái)5年、10年或50年可以實(shí)現(xiàn)的系統(tǒng)功能上。我們可以在人工智能系統(tǒng)上執(zhí)行測(cè)試來(lái)定義這些能力，從而測(cè)量系統(tǒng)是否擁有這些能力。

要做到這一點(diǎn)，這些能力必須具有可執(zhí)行性。簡(jiǎn)而言之，人工智能的測(cè)試要以測(cè)試為導(dǎo)向。這要求我們把“理解”和“智能”的模糊概念轉(zhuǎn)化為具體的、可量的能力。這本身就是一個(gè)非常實(shí)用的過(guò)程。

操作測(cè)試中，除了評(píng)估人工智能系統(tǒng)的輸入輸出行為之外，還可以檢查產(chǎn)生這種行為的內(nèi)部結(jié)構(gòu)（數(shù)據(jù)結(jié)構(gòu)、知識(shí)庫(kù)等）。人工智能相對(duì)于神經(jīng)科學(xué)的一大優(yōu)勢(shì)是，我們可以更容易在人工智能系統(tǒng)上進(jìn)行實(shí)驗(yàn)，理解和評(píng)估它們的行為。

不過(guò)，還是要提醒大家注意。聯(lián)結(jié)主義方法，包括深度學(xué)習(xí)，經(jīng)常導(dǎo)致難以解釋的內(nèi)部結(jié)構(gòu)，似乎我們的大腦也是如此。因此，我們不需要設(shè)定一個(gè)研究目標(biāo)來(lái)確認(rèn)某些結(jié)構(gòu)（例如符號(hào)表征）的存在。相反，我們應(yīng)該關(guān)注希望系統(tǒng)獲得的行為能力，并研究其內(nèi)部機(jī)制如何實(shí)現(xiàn)這些能力。

例如，一次成功的對(duì)話需要每位參與者留心交流過(guò)程中的前因后果。有很多方法可以做到這一點(diǎn)，我們沒(méi)必要在一個(gè)深度學(xué)習(xí)系統(tǒng)中硬性要求明確的歷史記憶。

相反，我們編寫(xiě)了一個(gè)特定的內(nèi)部結(jié)構(gòu)，并不意味著它就會(huì)按照我們預(yù)計(jì)的方式運(yùn)行。德魯麥克德莫特（Drew McDermott）在其著作《人工智能遇到自然愚蠢》（Artificial Intelligence Meets Natural Stupidity）中詳細(xì)討論了這個(gè)問(wèn)題。

人工智能受批評(píng)，發(fā)展，再受批評(píng)的模式導(dǎo)致所謂的“人工智能效應(yīng)”：時(shí)下最先進(jìn)的系統(tǒng)沒(méi)有產(chǎn)生“真正的理解”或“真正的智能”，人工智能等同于失敗。這導(dǎo)致人工智能領(lǐng)域的成功被忽視，投入資金減少。例如，曾經(jīng)有一段時(shí)間，人們認(rèn)為系統(tǒng)如果能夠達(dá)到人類下象棋或圍棋的能力，就是智能的。

但是當(dāng)1997年深藍(lán)擊敗卡斯帕羅夫時(shí)，一位著名的人工智能研究人員認(rèn)為，下國(guó)際象棋擊敗人類很容易，要顯示出真正的智能，必須解決“小車倒車問(wèn)題（truck backer-upper problem）”，即將一輛鉸接式半拖車卡車倒進(jìn)停車位。

事實(shí)上，九年前，阮（Nguyen）和威德羅（Widrow）已經(jīng)通過(guò)強(qiáng)化學(xué)習(xí)解決了這個(gè)問(wèn)題。今天，許多“深謀遠(yuǎn)慮”的批評(píng)者再次提出了新任務(wù)和新條件，測(cè)試一個(gè)系統(tǒng)是否產(chǎn)生了“理解”。

與此同時(shí)，人工智能的研發(fā)提升系統(tǒng)能力，并為社會(huì)創(chuàng)造價(jià)值。重要的是，無(wú)論是從學(xué)術(shù)誠(chéng)信角度考慮還是為了繼續(xù)獲得投資，人工智能研究人員要能在成功時(shí)坦然接受贊美，失敗時(shí)勇于承擔(dān)責(zé)任。

我們必須壓制圍繞人工智能新進(jìn)展的炒作、必須客觀地衡量我們的系統(tǒng)在不同情況下是否能理解用戶和其目標(biāo)，客觀地認(rèn)識(shí)人工智能開(kāi)拓的廣闊世界。我們沒(méi)有必要糾結(jié)于成果的“真真假假”，帶上誠(chéng)實(shí)有效的自我批評(píng)，讓我們繼續(xù)前行吧。

? ?