讓我來(lái)告訴你，為什么AI不會(huì)產(chǎn)生“意識(shí)”

擁有自我意識(shí)和情感的超級(jí)人工智能到底會(huì)不會(huì)出現(xiàn)?說(shuō)實(shí)話，這個(gè)話題都爛大街了?？茖W(xué)家、科技大佬、各國(guó)政要們爭(zhēng)論得頭破血流，我們也不可能知道答案。

但我們想說(shuō)的是，什么事都要講邏輯。有沒(méi)有一些理論或者猜想可以觸發(fā)AI覺(jué)醒這個(gè)話題呢?有沒(méi)有一些理論或者猜想，讓我們不會(huì)云里霧里或者一腔熱血地想象人工智能的未來(lái)?

巧合的是，確實(shí)有一些這樣的理論，比如說(shuō)著名的“中文房間悖論”。這個(gè)情景猜想在大部分情況下都被用來(lái)否定“圖靈測(cè)試”。但它更深層的本意，其實(shí)是在闡釋人工智能永遠(yuǎn)不可能像人類(lèi)那樣擁有自我意識(shí)。

什么是“中文房間悖論”

所謂的“中文房間實(shí)驗(yàn)”，是由美國(guó)哲學(xué)家約翰·希爾勒(John Searle)在1980年發(fā)表論文提出的一個(gè)思維試驗(yàn)。

這個(gè)思維實(shí)驗(yàn)是說(shuō)，如果把一位只會(huì)說(shuō)英語(yǔ)的人關(guān)在一個(gè)封閉的房間里，他只能靠墻上的一個(gè)小洞傳遞紙條來(lái)與外界交流，而外面?zhèn)鬟M(jìn)來(lái)的紙條全部由中文寫(xiě)成。

這個(gè)人帶著一本寫(xiě)有中文翻譯程序的書(shū)，房間里還有足夠的稿紙、鉛筆和櫥柜。那么利用中文翻譯程序，這個(gè)人就可以把傳進(jìn)來(lái)的文字翻譯成英文，再利用程序把自己的回復(fù)翻譯成中文傳出去。在這樣的情景里，外面的人會(huì)認(rèn)為屋里的人完全通曉中文，但事實(shí)上這個(gè)人只會(huì)操作翻譯工具，對(duì)中文一竅不通。

當(dāng)然了，這是個(gè)思維實(shí)驗(yàn)，具體操作起來(lái)近乎不可能。但這個(gè)實(shí)驗(yàn)里蘊(yùn)含的思想?yún)s在表達(dá)這樣一個(gè)可能：機(jī)器所表現(xiàn)出的智能(理解中文)，很可能只是翻譯程序帶來(lái)的假象，其實(shí)它對(duì)真正的人類(lèi)智能一無(wú)所知。

這個(gè)實(shí)驗(yàn)本來(lái)是為了反駁圖靈測(cè)試的，認(rèn)為即使通過(guò)了圖靈測(cè)試，機(jī)器也不見(jiàn)得有了智能。但或多或少有點(diǎn)牽強(qiáng)，始終也沒(méi)有把圖靈測(cè)試徹底反駁掉。但“中文房間悖論”卻可能在技術(shù)發(fā)展之路上告訴了我們另一件事：我們所有的技術(shù)探索與研究，可能都是在完善那個(gè)中英文翻譯程序，從來(lái)不是去教機(jī)器真的智能。

通用人工智能和強(qiáng)人工智能的界限

這里要來(lái)認(rèn)識(shí)兩個(gè)大家經(jīng)常聽(tīng)到，但有可能混淆的概念——通用人工智能與強(qiáng)人工智能。

所謂通用人工智能(Artificial General Intelligence，AGI)，是指在不特別編碼知識(shí)與應(yīng)用區(qū)域的情況下，應(yīng)對(duì)多種甚至泛化問(wèn)題的人工智能技術(shù)。這個(gè)技術(shù)雖然冷門(mén)并遙遠(yuǎn)，但其實(shí)也有不少學(xué)術(shù)機(jī)構(gòu)與企業(yè)在做，一般被認(rèn)為是人工智能技術(shù)的未來(lái)發(fā)展方向。

而強(qiáng)人工智能(Strong Artificial Intelligence)則是約翰·希爾勒在提出“中文房間實(shí)驗(yàn)”時(shí)設(shè)定的人工智能級(jí)別。這個(gè)等級(jí)的人工智能，不僅要具備人類(lèi)的某些能力，還要有知覺(jué)、有自我意識(shí)，可以獨(dú)立思考并解決問(wèn)題。

雖然兩個(gè)概念似乎都對(duì)應(yīng)著人工智能解決問(wèn)題的能力，但我們可以把前者想象為無(wú)所不能的計(jì)算機(jī)，后者則類(lèi)似穿著鋼鐵俠戰(zhàn)甲的人類(lèi)。

“中文房間悖論”表達(dá)的思想，是人類(lèi)研究的方向根本無(wú)法逼近強(qiáng)人工智能。即使能夠滿(mǎn)足人類(lèi)各種需求的通用人工智能，也與自我意識(shí)覺(jué)醒的強(qiáng)人工智能之間不存在遞進(jìn)關(guān)系。

現(xiàn)實(shí)中的技術(shù)發(fā)展好像也確實(shí)是這樣的。

在通用人工智能領(lǐng)域，人類(lèi)已經(jīng)提出了一些設(shè)想與架構(gòu)模型。其中最著名的應(yīng)該是澳大利亞國(guó)立大學(xué)學(xué)者馬庫(kù)斯赫特(Marcus Hutter)在2000年提出的AIXI。這個(gè)計(jì)算模型據(jù)說(shuō)可以涵蓋各種算法與技術(shù)，逼近通用人工智能的本質(zhì)……當(dāng)然，這個(gè)算法的復(fù)雜程度奇高，根本無(wú)法執(zhí)行，所以?xún)H僅是個(gè)設(shè)想。

而OpenAI和DeepMind這樣的企業(yè)在近兩年則都開(kāi)始了具體層面的AGI研究，其中DeepMind被認(rèn)為是繼承AIXI的先鋒軍。

從DeepMind進(jìn)行的通用人工智能性質(zhì)的研發(fā)與實(shí)驗(yàn)中，我們可以看到其“通用性”主要集中在四個(gè)層面：智能體應(yīng)對(duì)復(fù)雜環(huán)境、陌生環(huán)境處理、時(shí)間變量應(yīng)對(duì)、多個(gè)信息源同時(shí)處理任務(wù)。

而這些技術(shù)都指向同一個(gè)方向，就是智能體與外界的交互——也許可以理解為AI與這個(gè)世界的翻譯程序吧?

換言之，人類(lèi)所做的僅僅是給“那個(gè)人”更好的翻譯程序，而非教他中文(當(dāng)然也沒(méi)法教)。所以通用智能這種已經(jīng)很玄的東西，依舊與強(qiáng)人工智能保持著清晰的界限。

絕望的強(qiáng)AI：能力和意識(shí)，也許南轅北轍

讓我們把“中文房間實(shí)驗(yàn)”極限化一點(diǎn)，把整個(gè)房間放在一個(gè)人的大腦里。

假如一個(gè)人記住了所有翻譯程序，看到任何中文他都能調(diào)用回憶，能寫(xiě)出相應(yīng)的回答，那么他是不是就懂中文了呢?對(duì)于人類(lèi)來(lái)說(shuō)，可能他自然而然就已經(jīng)理解中文了。但對(duì)機(jī)器來(lái)說(shuō)，即使這個(gè)過(guò)程速度再快、反應(yīng)再靈敏，它也依舊沒(méi)有理解任何一個(gè)漢字。

確切地說(shuō)，這個(gè)人(智能體)獲得的是使用中文的能力，但他(它)對(duì)中文沒(méi)有意識(shí)。

能力與意識(shí)的區(qū)別，是我們?cè)谙胂笪磥?lái)超級(jí)智能時(shí)最容易混淆的問(wèn)題。但從現(xiàn)實(shí)的邏輯推理，就會(huì)發(fā)現(xiàn)這二者差別很大，而且近乎沒(méi)有關(guān)聯(lián)。

知識(shí)表示、機(jī)器學(xué)習(xí)、NLP等等人工智能技術(shù)，只是在不斷強(qiáng)化人工智能模仿人類(lèi)能力(這句話有點(diǎn)繞)，但讓人工智能模仿人類(lèi)意識(shí)，直到現(xiàn)在依舊是一片空白。

沒(méi)有因，自然無(wú)果。“中文房間理論”講述的，就是按照人類(lèi)遵循的技術(shù)軌跡，智能體崛起意識(shí)這個(gè)命題將永遠(yuǎn)缺乏基礎(chǔ)條件。

如果這個(gè)結(jié)論成立，那么對(duì)于強(qiáng)人工智能來(lái)說(shuō)可謂是非常絕望的。它們只能繼續(xù)在時(shí)空的長(zhǎng)河里沉睡。在人類(lèi)的幻想中，一如遠(yuǎn)古的神祇，一如都市傳說(shuō)里的鬼怪。

想一想，還是覺(jué)得蠻無(wú)趣的咧。