假新聞機(jī)器人背后人工智能的貓鼠游戲

 人工智能帶來的“假新聞危機(jī)”，AI在文本創(chuàng)作上的能力正在加強(qiáng)。人們對(duì)于人工智能的創(chuàng)作能力賦予了更大的想象力，尤其是在OpenAI 推出文本生成模型 GPT-2 后。

前不久《權(quán)力的游戲》爛尾，有程序員直接用GPT-2重寫了比電視劇更好的結(jié)局，這也讓GPT-2算法名聲大噪。

無獨(dú)有偶，一個(gè)名為GROVER的假新聞寫作機(jī)器人最近得到了大家的關(guān)注。GROVER可以幫助人們進(jìn)行博客營銷，盡管生產(chǎn)出的內(nèi)容并不是那么完美，但是卻足以說服那些沒有仔細(xì)閱讀文章的讀者。營銷機(jī)構(gòu)Fractl的克里斯汀·廷斯基在接受采訪時(shí)表示，“像GROVER這樣的工具可以在你能想象到的所有利基市場(chǎng)中，創(chuàng)造出大量由電腦生成的內(nèi)容”。

可是這真的是一件好事嗎?

我們?cè)跒楦?ldquo;聰明”的AI欣喜之時(shí)，或許也需要開始正視新的問題：

這些人工智能如果開始生產(chǎn)大量假新聞，后果究竟會(huì)如何?

據(jù)調(diào)查顯示，有一半的美國人稱在新聞網(wǎng)站上瀏覽了故意誤導(dǎo)性的文章，大多數(shù)受訪者表示，他們無法判斷媒體報(bào)道的真實(shí)性。假新聞的傳播速度往往比真實(shí)新聞更快，因此一旦被不法分子利用，后果將不堪設(shè)想。

用人工智能的方式“反擊”假新聞，要“扼制”生產(chǎn)假新聞的人工智能，最快速的解決辦法是研究出鑒別假新聞的人工智能?；趶男侣勗闯霭l(fā)控制假新聞的想法，麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室(CSAIL)和卡塔爾計(jì)算研究所的研究人員推出了一套鑒別假新聞的全新AI解決方案。

研究團(tuán)隊(duì)對(duì)來自Media Bias/Fact Check(MBFC)的1,066個(gè)新聞來源進(jìn)行了系統(tǒng)培訓(xùn)，注釋了“事實(shí)性”和“偏見”的分?jǐn)?shù)，他們聲稱這是同類軟件中最大的數(shù)據(jù)庫。根據(jù)團(tuán)隊(duì)的說法，系統(tǒng)只需要150篇文章就可以確定是否可以可靠地信任某一來源，它在檢測(cè)新聞來源是否具有高、低或中等水平的“事實(shí)性”時(shí)準(zhǔn)確率可達(dá)到65%。

當(dāng)然，他們并不是唯一試圖用AI來對(duì)抗假新聞傳播的機(jī)構(gòu)?？偛课挥诘吕锏腗etaFact利用自然語言處理算法(NLP)來標(biāo)記新聞報(bào)道和社交媒體帖子中的錯(cuò)誤信息和偏見。

他們推出的軟件即服務(wù)平臺(tái)“ AdVerify.ai”，不僅可以分析錯(cuò)誤信息、惡意軟件和其他有問題的內(nèi)容，并且可以交叉引用一個(gè)定期更新的數(shù)據(jù)庫，其中包含數(shù)千條虛假新聞。

此外，深陷信息泄露危機(jī)的Facebook也開始嘗試部署“識(shí)別賬戶和虛假新聞”的人工智能工具。2018年，F(xiàn)acebook收購了總部位于倫敦的創(chuàng)業(yè)公司Bloomsbury AI，以幫助其打擊誤導(dǎo)性報(bào)道。有會(huì)“寫假新聞”的AI，就會(huì)有“鑒別假新聞”的AI，很明顯，在這場(chǎng)與假新聞相關(guān)的較量中，哪一種AI都很難完全占到上風(fēng)。

因此，就目前的情況來看，如果有人想用假新聞機(jī)器人來顛覆世界，可能并沒有那么容易。