新聞?wù)l繁“翻車”，蘋果AI遠(yuǎn)未成熟

蘋果在iPhone上增加一個(gè)新AI功能，它可以生成新聞提示（News Alerts）。這看起來很美好，但推出之后卻發(fā)現(xiàn)，AI生成的提示信息并不準(zhǔn)確，很多人要求蘋果撤銷該功能。

當(dāng)出現(xiàn)突發(fā)新聞時(shí)，AI會(huì)摘取新聞，但它老是犯錯(cuò)。BBC抱怨稱，去年12月份蘋果在轉(zhuǎn)述BBC報(bào)道時(shí)出現(xiàn)錯(cuò)誤，BBC要求修正，蘋果直到本周才給出回應(yīng)。

《衛(wèi)報(bào)》前員工Alan Rusbridger認(rèn)為，蘋果AI新聞?wù)a(chǎn)品明顯沒有準(zhǔn)備好，還要繼續(xù)努力。他還認(rèn)為，蘋果的新AI技術(shù)明顯失控，會(huì)給社會(huì)帶來傳播虛假信息的風(fēng)險(xiǎn)。

英國NUJ（The National Union of Journalists，全國記者聯(lián)盟）認(rèn)為，蘋果應(yīng)該快速行動(dòng)，剔除Apple Intelligence，防止信息誤導(dǎo)公眾。

NUJ管理人員Laura Davison稱：“獲得精準(zhǔn)報(bào)道已經(jīng)變得越來越重要，當(dāng)公眾接收到新聞后，不應(yīng)該讓他們在事后猜測新聞的真實(shí)性?！?

無國界記者組織（RSF）認(rèn)為，蘋果的調(diào)查不夠充分，它一再強(qiáng)調(diào)蘋果應(yīng)該將產(chǎn)品下架。

AI新聞?wù)l繁出錯(cuò)，蘋果AI遠(yuǎn)未成熟

上個(gè)月，蘋果AI對一條新聞進(jìn)行加工，告訴讀者Luigi Mangione已經(jīng)自殺。Luigi Mangione是一位美國男子，他涉嫌謀殺聯(lián)合健康保險(xiǎn)（United Healthcare）的CEO。然而，Luigi Mangione并沒有自殺，蘋果匯總的新聞通報(bào)出現(xiàn)嚴(yán)重錯(cuò)誤。

上周五，蘋果AI對BBC內(nèi)容進(jìn)行加工，宣稱Luke Littler拿到了飛鏢大賽的冠軍（PDC World Darts Championship），當(dāng)時(shí)決賽還沒有開始。蘋果還說巴西網(wǎng)球運(yùn)動(dòng)員Rafael Nadal是同性戀。

BBC回應(yīng)稱：“蘋果AI摘要功能給出的內(nèi)容未能反映BBC內(nèi)容的本意，有時(shí)甚至是完全矛盾的。蘋果應(yīng)該迅速解決這些問題，因?yàn)楸３中侣劦臏?zhǔn)確性對于BBC維持用戶的信賴極為重要?！?

不只有BBC受到影響。例如，11月份蘋果AI功能摘取《紐約時(shí)報(bào)》APP的新聞，暗示以色列總理內(nèi)塔尼亞湖被捕。

RSF認(rèn)為，Luigi Mangione謀殺事件影響巨大，蘋果AI生成錯(cuò)誤信息，說明生成式AI服務(wù)遠(yuǎn)沒有成熟，它無法生成可靠信息。

為了解決問題，蘋果準(zhǔn)備升級(jí)AI功能，升級(jí)后會(huì)告知用戶新聞提示是AI生成的，但這樣做并不能解決所有問題。

RSF高管Vincent Berthier說：“蘋果只是將責(zé)任推給用戶，用戶早就被充滿困惑的信息搞得頭昏腦脹，現(xiàn)在還要檢查信息的真實(shí)性?！?

蘋果聲稱是測試版本，未來會(huì)不斷優(yōu)化

蘋果稱，未來幾周就會(huì)對功能進(jìn)行更新。

蘋果AI的初衷很好，它會(huì)匯總多個(gè)新聞APP的通知內(nèi)容并進(jìn)行重寫，然后在蘋果的鎖屏上顯示，只需要一條通知就能顯示全部內(nèi)容。蘋果認(rèn)為，新聞提示摘要功能可以讓用戶查看更詳細(xì)的細(xì)節(jié)。

周一時(shí)，蘋果在聲明中表示：“Apple Intelligence目前仍是測試版本，我們會(huì)根據(jù)用戶的反饋不斷優(yōu)化?！彼€說，是否接收這些摘要通知由用戶決定，用戶不想要可以關(guān)閉。

蘋果稱：“未來幾周我們會(huì)升級(jí)軟件，當(dāng)展示的文本是由Apple Intelligence摘要而來時(shí)，我們會(huì)進(jìn)一步澄清說明。如果用戶發(fā)現(xiàn)存在意料之外的通知摘要，希望能及時(shí)報(bào)告。”

為了趕上AI潮流，蘋果推出很多AI功能，12月份這些功能正式進(jìn)入英國。新功能目前只支持iPhone 16、iPhone 15 Pro和Pro Max，而且系統(tǒng)必須達(dá)到ios 18.1，一些iPad和Mac也支持。

受挑戰(zhàn)的不止蘋果，AI幻覺難以根除

谷歌也推出了AI摘要功能，當(dāng)用戶在谷歌搜索查詢內(nèi)容時(shí)，結(jié)果頁最頂部會(huì)顯示摘要信息，這些內(nèi)容也不完美，經(jīng)常會(huì)顯示錯(cuò)誤信息。當(dāng)時(shí)谷歌新聞發(fā)言人曾表示，這些只是孤例，未來摘要功能會(huì)更好。

一些AI專家擔(dān)憂，蘋果AI功能出現(xiàn)的問題可能就是“幻覺”，AI在生成內(nèi)容時(shí)會(huì)保留錯(cuò)誤、誤導(dǎo)信息。

市場咨詢公司CCS Insights的分析師Ben Wood指出：“在AI生成內(nèi)容時(shí)，我懷疑遇到挑戰(zhàn)的不只有蘋果。我看到過無數(shù)案例，AI服務(wù)總是充滿自信地傳播不實(shí)信息，也就是所謂的‘幻覺’信息?！?

蘋果AI只是將其它媒體的報(bào)道摘要一下，抽取一些基本信息，然后呈現(xiàn)給讀者。實(shí)際上，蘋果抽取的內(nèi)容是不準(zhǔn)確的，但在傳播時(shí)卻充滿自信，AI深信自己描述的就是事實(shí)。

Ben Wood稱：“蘋果試圖將內(nèi)容進(jìn)行壓縮，將它變成更簡短的摘要，這樣做會(huì)增加復(fù)雜性，最終可能輸出的是錯(cuò)誤信息。蘋果肯定會(huì)盡快解決問題，競爭對手肯定也會(huì)關(guān)注蘋果的做法。”

當(dāng)用戶向AI提問時(shí)，AI可能并不知道答案，但它會(huì)一本正經(jīng)胡說，裝出知道答案的樣子，實(shí)際上卻是在撒謊。

華盛頓大學(xué)信息科學(xué)教授Chirag Shah認(rèn)為，蘋果AI功能遇到挫折實(shí)際上反應(yīng)了更嚴(yán)重的問題，也就是“幻覺”，AI會(huì)生成內(nèi)容，但會(huì)犯錯(cuò)。你無法簡單通過調(diào)試解決此問題，因?yàn)椤盎糜X”是LLM的屬性之一，AI就是伴隨著“幻覺”運(yùn)行的。

Chirag Shah還說，蘋果如果只是提醒用戶內(nèi)容是AI生成的，這樣的補(bǔ)救遠(yuǎn)遠(yuǎn)不夠。他說：“大多人并不知道摘要、合成內(nèi)容是怎樣生成的，沒有什么快速的修補(bǔ)方法。最正確的選擇是不要使用，直到進(jìn)一步優(yōu)化、緩解問題后再讓它上線。”

美國東北大學(xué)AI顧問Michael Bennett認(rèn)為，充滿“幻覺”的AI摘要功能讓蘋果尷尬。在Apple Intelligence推出之前，市場普遍認(rèn)為蘋果在AI領(lǐng)域落后了，Apple Intelligence可以讓蘋果回到正軌，但現(xiàn)在看來問題還有很多。