“AI寫手”火了！大學(xué)生用GPT-3寫“雞湯文”，騙過(guò)一堆人登上科技頭條

GPT-3是OpenAI語(yǔ)言人工智能模型，由1750億個(gè)參數(shù)組成?？偛课挥谂f金山的OpenAI研究實(shí)驗(yàn)室今年5月開(kāi)始逐步推出了該模型，并引起越來(lái)越大的反響。這個(gè)龐大的語(yǔ)言模型幾乎可以勝任所有可以用文字表達(dá)的工作：從回答問(wèn)題、寫文章、寫詩(shī)歌、甚至寫代碼……無(wú)一不包。那么，現(xiàn)實(shí)中它究竟有多厲害呢？

最近，國(guó)外一名剛?cè)腴TGPT-3不久的伯克利大學(xué)生利亞姆·波爾（Liam Porr），以一個(gè)假名，然后用人工智能模型建了一個(gè)完全假的博客。不過(guò)，這卻成功“騙倒”了一大批內(nèi)容閱讀者。

這個(gè)充滿諷刺性和欺騙性的“AI把戲”很快騙過(guò)了Hacker News等科技極客圈子，然后真相曝光—;—;瞬間成為了熱點(diǎn)話題—;—;這么多人怎么就被一個(gè)完全由AI搭建起來(lái)的所謂“博客”給誆了？居然還有不少人“訂閱”了上面的消息？

盡管許多人猜測(cè)到目前為止超強(qiáng)大的語(yǔ)言生成AI工具—;—;GPT-3會(huì)如何影響內(nèi)容生產(chǎn)，但這種“以假亂真”的程度和效果是他們始料未及的。這是目前唯一一次GPT-3如此真實(shí)地展示自己的實(shí)力，足以說(shuō)明這一工具的應(yīng)用潛力。

在加州大學(xué)伯克利分校(University of California, Berkeley)學(xué)習(xí)計(jì)算機(jī)科學(xué)的波爾說(shuō)，這次經(jīng)歷中最突出的一點(diǎn)是:“實(shí)際上，它超級(jí)簡(jiǎn)單，這是最可怕的部分?！?/p>

登上頭條狂漲粉的“AI雞湯文”

雖然GPT-3還沒(méi)有徹底開(kāi)放，但波爾卻依然輕輕松松獲取了接口。波爾提交了一份申請(qǐng)。他填寫了一張表格，里面有一份關(guān)于他打算使用的簡(jiǎn)單問(wèn)卷。但他也沒(méi)有等上多少時(shí)間。在聯(lián)系了伯克利的人工智能社區(qū)的幾名成員后，他很快找到了一名已經(jīng)有此權(quán)限的博士生。

這個(gè)博士生同意合作后，波爾很快就寫了一個(gè)小腳本讓他運(yùn)行。它給了GPT-3一個(gè)博客文章的標(biāo)題和介紹，并給出了幾個(gè)完整的版本。Porr的第一個(gè)帖子(在Hacker News上發(fā)布的那個(gè))和之后的每一個(gè)帖子都是從一個(gè)輸出中復(fù)制粘貼過(guò)來(lái)的，幾乎沒(méi)有編輯。

他說(shuō):“從我想到這個(gè)想法并與那個(gè)博士生取得聯(lián)系，到我真正創(chuàng)建了這個(gè)博客—;—;這大概只花了幾個(gè)小時(shí)?！?/p>

波爾用假名字“adolos”寫的第一篇假博客，居然順順利利就登上了YC新聞平臺(tái)Hacker News熱門榜第一名！波爾說(shuō)，他使用了三個(gè)獨(dú)立的賬號(hào)在Hacker News上提交并投票，試圖把他的帖子推得更高。管理員說(shuō)這個(gè)策略不起作用，但他的點(diǎn)擊率標(biāo)題起作用了。

不需要太多編輯就能生成內(nèi)容的訣竅是—;—;理解GPT-3的優(yōu)缺點(diǎn)。波爾說(shuō):“它很擅長(zhǎng)創(chuàng)造漂亮的語(yǔ)言，但不太擅長(zhǎng)邏輯和理性?！币虼耍x擇了一個(gè)不需要嚴(yán)格邏輯的流行博客類別—;—;“雞湯文”，這樣就能實(shí)現(xiàn)高效和自助式的產(chǎn)出。

然后，他按照一個(gè)簡(jiǎn)單的公式來(lái)寫他的標(biāo)題：他在Medium和Hacker News上翻來(lái)翻去，看看在這些類別中發(fā)生了什么，然后把一些相對(duì)相似的東西放在一起?！陡杏X(jué)生產(chǎn)力不高？也許你應(yīng)該停止思慮過(guò)多》“”（Feeling unproductive? Maybe you should stop overthinking）他為其中一篇文章寫道?！洞竽懞蛣?chuàng)造力勝過(guò)智慧》（Boldness and creativity trumps intelligence），他又在另一篇文章中寫道。有幾次，這些標(biāo)題并沒(méi)有起到作用。但只要他堅(jiān)持正確的話題，這個(gè)過(guò)程就很容易實(shí)現(xiàn)，“雞湯文”成功地幫著博客蹭蹭蹭狂漲粉。

兩周后，他幾乎每天都發(fā)帖子。隨后不久，Hacker News上就有人指責(zé)波爾的博客文章是GPT-3寫的。另一名用戶卻回應(yīng)說(shuō)，這條評(píng)論“不可接受”。甚至有讀者讀后留言稱，“好文！和Ethan Hawke在Ted的演講一樣深刻！”對(duì)波爾的假博客持懷疑態(tài)度的少數(shù)人，居然就這樣被社區(qū)的其他成員投了反對(duì)票，妥妥證明了并非“大眾的眼睛都是雪亮的”。

一大部分人愣是沒(méi)看出來(lái)文章不是人類寫的，Medium、YC的新聞平臺(tái)等多家平臺(tái)都轉(zhuǎn)載刊發(fā)了他的第一篇博客、他的博客居然還瘋狂漲粉人氣居高不下……這讓小哥波爾開(kāi)始感到不淡定了，不過(guò)他自己也感到非常驚訝。

波爾說(shuō)，他想證明GPT-3可以冒充人類作家。事實(shí)上，盡管該算法的書寫模式有些奇怪，偶爾也會(huì)出現(xiàn)錯(cuò)誤，但在他在Hacker News上發(fā)表的最重要的帖子上，只有三四個(gè)人懷疑該算法可能是由某個(gè)算法產(chǎn)生的。而且，所有這些評(píng)論都立即被其他社區(qū)成員否決。

最后，波爾以一條自己寫的神秘信息結(jié)束了這個(gè)項(xiàng)目。標(biāo)題為《如果我沒(méi)有道德，我將如何對(duì)待GPT-3》，文章將他的過(guò)程描述為一個(gè)假設(shè)。同一天，他還在自己真正的博客上發(fā)表了一篇更直白的自白，澄清曝光了“假博客”的始終。

AI語(yǔ)言工具引發(fā)擔(dān)憂與思考

根據(jù)OpenAI的算力統(tǒng)計(jì)單位petaflops/s-days，訓(xùn)練AlphaGoZero需要1800-2000pfs-day，而OpenAI的GPT-3用了3640pfs-day，看來(lái)?yè)碛形④洘o(wú)限算力的OpenAI，現(xiàn)在真的是為所欲為了。

對(duì)于專家來(lái)說(shuō)，這一直是這種語(yǔ)言生成算法引起的擔(dān)憂。自從OpenAI首次發(fā)布GPT-2以來(lái)，人們就猜測(cè)它很容易被濫用。而GPT-3已經(jīng)成為OpenAI迄今為止推出最新、最大的AI語(yǔ)言模型。在自己的博客文章中，該實(shí)驗(yàn)室重點(diǎn)關(guān)注了人工智能工具作為大量制造錯(cuò)誤信息的武器的潛力。其他人則想知道是否可以用它來(lái)大量發(fā)布谷歌游戲相關(guān)關(guān)鍵詞的垃圾帖子。

去年2月，OpenAI的GPT-2(該算法的早期版本)登上了新聞?lì)^條，OpenAI宣布將保留該版本，以防被濫用。這一決定立即引發(fā)了強(qiáng)烈反響，研究人員指責(zé)該實(shí)驗(yàn)室在“搞噱頭”。到了11月，該實(shí)驗(yàn)室終于改變了立場(chǎng)，發(fā)布了這個(gè)模型，當(dāng)時(shí)還言之鑿鑿地稱“到目前為止沒(méi)有發(fā)現(xiàn)濫用的有力證據(jù)”。這不，這回“翻車”翻得有點(diǎn)厲害了。

該實(shí)驗(yàn)室對(duì)GPT-3采取了不同的方法；它既沒(méi)有拒絕，也沒(méi)有允許公眾訪問(wèn)。取而代之的是，它將算法提供給了那些申請(qǐng)私有測(cè)試的研究人員，目的是收集他們的反饋，并在今年年底將這項(xiàng)技術(shù)商業(yè)化。

波爾說(shuō)，他的實(shí)驗(yàn)還展示了一個(gè)更平凡但仍然令人不安的選擇—;—;人們可以使用該工具生成大量的點(diǎn)擊誘導(dǎo)內(nèi)容。他說(shuō):“很有可能會(huì)出現(xiàn)大量平庸無(wú)質(zhì)量的博客內(nèi)容，因?yàn)楝F(xiàn)在進(jìn)入的門檻太低了。”“我認(rèn)為在線內(nèi)容的價(jià)值將大大降低?！?/p>

波爾計(jì)劃用GPT-3做更多的實(shí)驗(yàn)。但他仍在等待OpenAI的介入。他說(shuō):“他們可能對(duì)我的所作所為感到不滿?！薄拔沂钦f(shuō)，這有點(diǎn)傻。”

背后的“AI大法”O(jiān)penAI

在成立的短短四年時(shí)間里，OpenAI已經(jīng)成為全球領(lǐng)先的人工智能研究實(shí)驗(yàn)室之一。與Alphabet旗下的DeepMind等其他人工智能巨頭一樣，谷歌不斷推出引人注目的研究成果，并因此成名。它也是硅谷的寵兒，創(chuàng)始人包括埃隆·馬斯克(Elon Musk)和傳奇投資者山姆·奧特曼(Sam Altman)。

最重要的是，它因其使命而受到推崇。它的目標(biāo)是成為第一個(gè)創(chuàng)造人工智能的機(jī)器—;—;一個(gè)具有人類思維的學(xué)習(xí)和推理能力的機(jī)器。其目的不是統(tǒng)治世界；相反，該實(shí)驗(yàn)室想要確保這項(xiàng)技術(shù)是安全發(fā)展的，并且它的好處能均勻地分配給全世界。

這意味著，如果AGI技術(shù)的發(fā)展遵循阻力最小的道路，那么它很容易失控。圍繞在我們身邊的那種笨拙的人工智能，就是一個(gè)例子。問(wèn)題是，AGI一直都很模糊。該領(lǐng)域內(nèi)的共識(shí)是，這種先進(jìn)的能力將需要幾十年，甚至幾個(gè)世紀(jì)的時(shí)間—;—;如果真的有可能發(fā)展它們的話。許多人還擔(dān)心，過(guò)分追求這一目標(biāo)可能會(huì)適得其反。

大多數(shù)人第一次聽(tīng)說(shuō)OpenAI是在2019年2月14日。那天，實(shí)驗(yàn)室宣布了一項(xiàng)令人印象深刻的新研究：只需按下一個(gè)按鈕，就可以生成令人信服的論文和文章。

但也有一個(gè)問(wèn)題：研究人員說(shuō)，這種被稱為GPT-2的模型釋放起來(lái)太危險(xiǎn)了。如果這樣強(qiáng)大的技術(shù)落入壞人之手，就很容易被“武器化”，制造大規(guī)模的虛假信息。這立即引起了科學(xué)家們的強(qiáng)烈反對(duì)。

在持續(xù)不斷的炒作指控中，OpenAI堅(jiān)稱GPT-2不是噱頭。更確切地說(shuō)，這是一項(xiàng)經(jīng)過(guò)深思熟慮的實(shí)驗(yàn)，經(jīng)過(guò)一系列內(nèi)部討論和辯論后達(dá)成一致。大家一致認(rèn)為，即使這次的行動(dòng)稍微有點(diǎn)過(guò)火，但它將為處理更危險(xiǎn)的研究開(kāi)創(chuàng)先例。

但OpenAI與GPT-2的媒體宣傳活動(dòng)也遵循了一種成熟的模式，這種模式讓更廣泛的人工智能社區(qū)產(chǎn)生了懷疑。多年來(lái)，該實(shí)驗(yàn)室的重大、引人注目的研究公告一再被指責(zé)助長(zhǎng)了人工智能的炒作周期。批評(píng)人士還不止一次地指責(zé)該實(shí)驗(yàn)室大肆宣揚(yáng)其研究結(jié)果，甚至達(dá)到了錯(cuò)誤描述的地步。出于這些原因，該領(lǐng)域的許多人都傾向于保持一定的距離。

GPT-2引發(fā)如此強(qiáng)烈的反彈還有另一個(gè)原因。人們覺(jué)得OpenAI又一次違背了它之前關(guān)于開(kāi)放和透明的承諾，并走上了營(yíng)利的道路。未公開(kāi)的研究讓人們更加擔(dān)憂和懷疑—;—;會(huì)不會(huì)是這項(xiàng)技術(shù)一直處于保密狀態(tài)，為將來(lái)獲得許可做準(zhǔn)備?但是人們并不知道，這不是OpenAI唯一一次選擇隱藏它的研究。