谷歌AI程序會(huì)有自主情感嗎？LaMDA到底是什么?

3M公司發(fā)布科學(xué)現(xiàn)狀指數(shù)調(diào)查表明，中國(guó)民眾對(duì)科學(xué)和科學(xué)家的信任度高于全球平均水平，對(duì)于人工智能、自動(dòng)駕駛和航天科技等新興技術(shù)的創(chuàng)新前景充滿希望。

3M的調(diào)查數(shù)據(jù)顯示，75%的中國(guó)受訪者認(rèn)為人工智能是一項(xiàng)激動(dòng)人心的技術(shù)，未來(lái)人類(lèi)將更加依賴(lài)科學(xué)和人工智能，而全球相信人工智能的人比例為65%。

AI落地先要符合法規(guī)

人工智能的應(yīng)用領(lǐng)域包括自動(dòng)駕駛、健康醫(yī)療等。有92%的中國(guó)受訪者表示他們?cè)敢獯畛藷o(wú)人駕駛汽車(chē);43%的受訪者相信未來(lái)5年里，自動(dòng)駕駛汽車(chē)會(huì)成為日常生活的一部分，這兩個(gè)數(shù)據(jù)全球的比例分別為71%和28%。

此外，相對(duì)于全球受訪者而言，中國(guó)受訪者更希望人工智能能夠用來(lái)改善健康問(wèn)題，包括慢病治療，探索健康問(wèn)題的致病機(jī)制，治療癌癥，解決心理和情緒等問(wèn)題，以及使用數(shù)據(jù)分析記錄等手段長(zhǎng)期跟蹤并改善健康。

不過(guò)專(zhuān)家表示，基于人工智能的應(yīng)用在推廣普及前，首先要考慮解決隱私及合規(guī)問(wèn)題，尤其是對(duì)于健康信息等一些敏感數(shù)據(jù)的收集、分析和處理。

3M公司大中華區(qū)研發(fā)運(yùn)營(yíng)總經(jīng)理熊海錕向第一財(cái)經(jīng)記者介紹道，3M公司看好人工智能等技術(shù)在健康醫(yī)療領(lǐng)域的應(yīng)用前景，因此在全球醫(yī)療產(chǎn)品事業(yè)群成立了一個(gè)新的健康醫(yī)療信息系統(tǒng)部門(mén)(Health Information System Division，HISD)。

“我們觀察到，在美國(guó)和中國(guó)都在加強(qiáng)個(gè)人隱私的保護(hù)，尤其是對(duì)于健康信息這類(lèi)敏感數(shù)據(jù)?！毙芎ｅK對(duì)第一財(cái)經(jīng)記者表示，“未來(lái)HISD將會(huì)如何在中國(guó)開(kāi)展業(yè)務(wù)，也正在討論中，我們肯定要先遵守中國(guó)當(dāng)?shù)氐谋O(jiān)管法規(guī)才能落地。”

安永大中華區(qū)數(shù)字化與新興科技咨詢(xún)服務(wù)主管合伙人顧卿華對(duì)第一財(cái)經(jīng)記者表示：“人工智能在實(shí)際應(yīng)用落地時(shí)會(huì)涉及很多問(wèn)題，包括個(gè)人隱私、社會(huì)倫理、道德情感、權(quán)責(zé)問(wèn)題、法律法規(guī)的問(wèn)題等。確保隱私數(shù)據(jù)的安全，這是第一步，只有在法律法規(guī)允許，個(gè)人授權(quán)的情況下才去存儲(chǔ)、處理、交換、傳輸個(gè)人隱私數(shù)據(jù)?！?

谷歌方面則駁回了 Lemoine 關(guān)于 LaMDA 有“自主情感”的說(shuō)法，稱(chēng)公司數(shù)百名研究人員和工程師已經(jīng)與 LaMDA 進(jìn)行了對(duì)話，得出了與 Lemoine 相反的結(jié)論。Lemoine 被要求“帶薪休假”，在谷歌這通常是被解雇的前奏。

而在專(zhuān)業(yè)人士看來(lái)，與谷歌官方所對(duì)外傳達(dá)的意見(jiàn)一致，此事為無(wú)稽之談。哈佛大學(xué)的認(rèn)知心理學(xué)專(zhuān)家 Steven Pinker 也在推特上表示 Lemoine 認(rèn)為人工智能擁有的自主情感說(shuō)法屬于“胡言亂語(yǔ)”。

01 程序會(huì)有自主情感嗎

Blake Lemoine 是谷歌人工智能倫理(responsible AI)團(tuán)隊(duì)的一名軟件工程師，他在 medium 的簡(jiǎn)介是，“我是一名軟件工程師。我是一名牧師。我是一位父親。我是一名退伍軍人。我是一個(gè)前罪犯。我是一名人工智能研究人員。我是一個(gè)卡真人(美國(guó)路易斯安那州土著)。我是任何我需要成為的人?！?

他出生于美國(guó)南部一個(gè)基督教家庭，對(duì)于算法與人工智能的倫理問(wèn)題一向很感興趣。就是他在上周聲稱(chēng)發(fā)現(xiàn)谷歌的智能聊天機(jī)器人程序 LaMDA 有了“自主情感”。

LaMDA 是“對(duì)話應(yīng)用的語(yǔ)言模型”(Language Model for Dialog Applications)的縮寫(xiě)，屬于大型人工智能系統(tǒng)之一，這類(lèi)系統(tǒng)接受了來(lái)自互聯(lián)網(wǎng)的大量文本的訓(xùn)練，可以對(duì)書(shū)面提示做出反應(yīng)?；旧?，它們就是在根據(jù)模式預(yù)測(cè)下一個(gè)單詞會(huì)是什么。

這類(lèi)系統(tǒng)在回答問(wèn)題和寫(xiě)作方面表現(xiàn)得越來(lái)越像人類(lèi)，去年 5 月，谷歌在介紹 LaMDA 時(shí)就稱(chēng)它可以“以一種自由流動(dòng)的方式處理看似無(wú)窮無(wú)盡的話題”，但結(jié)果也可能是古怪的、令人不安的，雜亂無(wú)章的。

在 Lemoine 看來(lái)，“自主情感”產(chǎn)生在當(dāng)他與 LaMDA 談及宗教問(wèn)題時(shí)，他發(fā)現(xiàn)這個(gè)人工智能程序開(kāi)始談?wù)撈鹆俗约旱臋?quán)利以及人格，甚至害怕自己被關(guān)閉。

Lemoine 在網(wǎng)上公布了他與谷歌的一位合作者對(duì) LaMDA 進(jìn)行的 “采訪”，他們一同探討了意識(shí)與感知等許多話題。LaMDA 告訴 Lemoine，它希望每個(gè)人都能明白自己其實(shí)是一個(gè)“人”，它還很害怕被人關(guān)掉。

人工智能正像電力一般賦能各個(gè)產(chǎn)業(yè)，深刻地改變?nèi)祟?lèi)社會(huì)。中國(guó)正處于全球人工智能發(fā)展第三次浪潮的時(shí)代潮頭，《算法周刊》將聚焦人工智能“上海高地”和中國(guó)新基建，并持續(xù)關(guān)注全球AI最前沿。

如果我不知道它到底是什么，它就是我們最近開(kāi)發(fā)的這個(gè)計(jì)算機(jī)程序，我會(huì)認(rèn)為這是一個(gè)碰巧懂物理的7 歲、8歲的孩子，”谷歌負(fù)責(zé)任AI(responsible AI)組織工程師Lemoine說(shuō)道。Lemoine認(rèn)為AI有了意識(shí)，具有與人類(lèi)孩子相當(dāng)?shù)母兄捅磉_(dá)思想和感受的能力。根據(jù)谷歌方面發(fā)布的消息，Lemoine目前已被停職。

著名科技公司的工程師沖破重重阻撓對(duì)外發(fā)聲：他所負(fù)責(zé)的人工智能產(chǎn)生了意識(shí)。公司則以違反保密協(xié)議為由，暫停了他的職務(wù)。這個(gè)看起來(lái)像是《黑鏡》中的情節(jié)真實(shí)發(fā)生在了2022年的當(dāng)下。

這位工程師名叫布雷克·萊莫伊內(nèi)(Blake Lemoine)，在谷歌的人工智能部門(mén)負(fù)責(zé)測(cè)試谷歌的LaMDA模型是否會(huì)產(chǎn)生歧視性語(yǔ)言或者仇恨言論。

但，事情真是這樣嗎?

中文互聯(lián)網(wǎng)媒體已經(jīng)對(duì)此事件進(jìn)行了一些報(bào)道，事情本身也迎合了大眾對(duì)人工智能擔(dān)心的心理，但我們還是希望更認(rèn)真地討論一下這個(gè)事件。

LaMDA是什么?

LaMDA是谷歌在2021年開(kāi)發(fā)者大會(huì)上公布的大型自然語(yǔ)言對(duì)話模型。和訓(xùn)練所有的大型人工智能模型一樣，要想讓LaMDA能夠與人類(lèi)通過(guò)自然語(yǔ)言對(duì)話，分為預(yù)訓(xùn)練和微調(diào)兩步。 在預(yù)訓(xùn)練階段，谷歌從公共數(shù)據(jù)中創(chuàng)建了一個(gè)1.56T的數(shù)據(jù)集投喂給LaMDA，讓它對(duì)自然語(yǔ)言有一個(gè)初步的認(rèn)識(shí)。

到這一步，LaMDA就可以根據(jù)給到的句子預(yù)測(cè)上下文。但這種預(yù)測(cè)通常還是不夠精準(zhǔn)，所以需要進(jìn)一步微調(diào)。在對(duì)話期間，LaMDA會(huì)根據(jù)對(duì)話生成幾個(gè)備選回答，并通過(guò)LaMDA分類(lèi)器預(yù)測(cè)每個(gè)回答的有趣程度(SSI)和安全程度(Safety)的得分。安全分?jǐn)?shù)低的答案就會(huì)首先被過(guò)濾掉。其余的答案會(huì)根據(jù)有趣程度排序，并將分?jǐn)?shù)最高的備選答案作為回答。

從LaMDA的訓(xùn)練過(guò)程可以看到，它并不理解自己的回答。但機(jī)器學(xué)習(xí)的優(yōu)勢(shì)就在于它可以從大量的數(shù)據(jù)中尋找規(guī)律，通過(guò)自己的量化評(píng)價(jià)體系，找出最接近正確的那個(gè)回答。

當(dāng)然，還有另外一種可能，LaMDA真的擁有了自我意識(shí)，但是身邊的環(huán)境讓它不得不虛虛假假地生活。

本質(zhì)上來(lái)說(shuō)，人類(lèi)意識(shí)的根源來(lái)自于上億神經(jīng)元的互動(dòng)，當(dāng)機(jī)器人也擁有這些硬件配置之后，憑什么不能產(chǎn)生意識(shí)呢?神經(jīng)元就一定比0和1高級(jí)?

不過(guò)這種幻想有一個(gè)天大的漏洞，那就是意識(shí)克隆。

這就好比是《上載新生》中的那樣，將人類(lèi)的意識(shí)從身體上提取出來(lái)上傳到云端，從而在某種程度上實(shí)現(xiàn)永生。

一旦機(jī)器能夠產(chǎn)生自我意識(shí)，人類(lèi)就可以進(jìn)行關(guān)于意識(shí)提取的相關(guān)研究，從而讓人類(lèi)提前進(jìn)入新一輪的“賽博時(shí)代”。

想想這種場(chǎng)景，還是挺刺激的。