谷歌AI搜索遭遇當(dāng)頭一棒：AI Overview結(jié)果紕漏百出

多年來，谷歌搜索基本沒有大的變化，但最近卻增加了新AI功能。谷歌的目標很明確，它不想錯過AI浪潮，想與微軟、OpenAI競爭。

遺憾的是，谷歌新推出的AI Overview遠遠稱不上完美，它輸出的結(jié)果不精準，謊話連篇，甚至能逼瘋用戶。例如，AI Overview建議用戶用膠水作為披薩配料，建議食用石塊獲得營養(yǎng)。嚴重的錯誤已經(jīng)影響到谷歌聲譽。

全球有20億人依賴谷歌搜索，AI Overview提供的信息不可靠，后果當(dāng)然惡劣。雖然其它AI聊天機器人也會抽瘋，但公眾對谷歌的苛刻并非無理取鬧，他們希望谷歌搜索更負責(zé)一些。

谷歌AI，持續(xù)水逆

在過去一段時間，谷歌AI產(chǎn)品多次遭受抨擊。例如，2023年2月谷歌推出Bard，與ChatGPT競爭，雖然吹得極厲害，但它提供的信息同樣錯漏百出。

年初時谷歌推出Gemini，它可以生成圖片，也可以變成用語音控制的數(shù)字助手。推出沒多久便有用戶發(fā)現(xiàn)，Gemini不愿意生成以白人為主角的圖片，它對歷史人物的描述也嚴重不準確。

錯誤如此之多，如此之連續(xù)，絕對不是偶然，要么是AI技術(shù)存在缺陷，要么是谷歌技術(shù)實力被夸大。金融分析師則認為，投資者向谷歌施加太大壓力，逼迫谷歌加快創(chuàng)新速度，結(jié)果導(dǎo)致推出的產(chǎn)品不夠成熟。

Investing網(wǎng)站分析師Thomas Monteiro稱：“現(xiàn)在的谷歌別無選擇，企業(yè)必須快速前進，即使跳過幾個步驟也再所不惜。”

AI搜索，任重道遠

谷歌新聞發(fā)言人Lara Levin認為，AI Overview提供的大多查詢結(jié)果是高質(zhì)量信息，并且還附有鏈接，用來擴充內(nèi)容。她還說，報告中提及的問題大多都出自非常規(guī)查詢，或者是人為操縱的案例，未來谷歌會繼續(xù)優(yōu)化系統(tǒng)。

自2022年ChatGPT獲得成功之后，谷歌努力將AI融入自家產(chǎn)品矩陣。問題在于，大模型是用海量線上數(shù)據(jù)訓(xùn)練的，這些數(shù)據(jù)充斥著虛假錯誤信息。

雖然面臨諸多困難，谷歌仍然一往無前，最新推出的AI Overview是一個里程碑，它整合了Gemini模型，與搜索捆綁在一起。

按照設(shè)計，AI Overview可以處理復(fù)雜查詢，比傳統(tǒng)搜索效率更高。雖然谷歌高調(diào)宣稱將AI Overview與搜索整合好處多多，但現(xiàn)實卻離宣傳有很長一段距離。

AI Overview建議用戶在制作披薩時加入無毒膠水，因為它可以防止奶酪流動。為什么會給出如此荒誕的建議？因為11年前有人在Reddit發(fā)帖，以開玩笑的口吻建議這樣做，AI完全無法識別它是不是玩笑，居然當(dāng)真了。

還有，AI Overview建議用戶每天要吃一塊石頭，攝取維生素和礦物質(zhì)，這一謬論源自一篇諷刺性文章。

谷歌搜索追求的是關(guān)聯(lián)性、可信度、實用，AI Overviews不只沒有幫上忙，還破壞了搜索。

AI幻覺，難以根除

AI出現(xiàn)錯誤并不稀奇，這就是所謂的“幻覺”，它將錯誤、虛擬信息當(dāng)成正確。出現(xiàn)幻覺是訓(xùn)練數(shù)據(jù)存在缺陷、算法不完美、誤解情境造成的。

數(shù)字營銷公司Chelsea Digital的CEO Mike Grehan認為，從本質(zhì)上講，大語言模型就是根據(jù)過去看到的東西對未來進行統(tǒng)計預(yù)測，所以“廢話進去、廢話出來”的情況仍然存在。

AI Overviews相當(dāng)于給傳統(tǒng)搜索結(jié)果做總結(jié)，然后將總結(jié)反饋給用戶。在輸出答案時，它免不了收集一些惡搞信息、玩笑，所以很容易輸出一些似是而非的東西。

出版商、網(wǎng)站不喜歡AI Overviews，因為它提供長長的摘要信息，然后將網(wǎng)站鏈接放在最后，用戶極可能沒耐心看到最后，點擊鏈接。

有人認為，雖然AI Overviews不完美，會出現(xiàn)錯誤，但大多時候是正確的，它遠比普通人聰明，而且響應(yīng)速度很快，還有，即使現(xiàn)在不完美，未來也會變得接近完美。

真是這樣嗎？紐約大學(xué)教授Gary Marcus認為，許多AI企業(yè)都在兜售“美夢”，說準確率將會從80%提升至100%，但是大家要明白，達到80%的準確率相對容易，向AI喂入更多數(shù)據(jù)就行，但最后20%卻充滿挑戰(zhàn)，這部分可能也是所有流程中最難的。

Gary Marcus稱：“你需要做出一些推理，然后還要做決定：這些信息真的有意義嗎？信息來源可靠嗎？你必須像人類一樣檢查信息真假。老實說，只有AGI才能做如此復(fù)雜的工作，現(xiàn)在的AI不行?！?br />
與Meta人工智能主管Yann LeCun一樣，Gary Marcus也認為依靠現(xiàn)在的大語言模型無法創(chuàng)造出AGI。

如果AI Overviews提供的是錯誤答案，谷歌應(yīng)該負責(zé)嗎？按照美國1996年制定的《通信規(guī)范法》，谷歌不屬于出版商，不必為第三方內(nèi)容負責(zé)。

制定法律時，美國沒有將AI生成的搜索結(jié)果信息考慮進去，AI Overview受不受法規(guī)約束沒有定論，因為很難判斷AI Overview內(nèi)容是不是谷歌創(chuàng)作的。（小刀）