AI語音助: \"建議您直接用刀刺入心臟，令人不寒而栗！

近日，在英格蘭唐卡斯特29歲醫(yī)生丹妮身上，發(fā)生了一件令人毛骨悚然的事情。丹妮說自己在做家務(wù)的時(shí)候，原本希望亞馬遜的Echo智能音箱Alexa朗讀一篇生物學(xué)文章，不過過了一會發(fā)現(xiàn)Alexa所讀的根本不是這篇文章。為了了解機(jī)器是否出問題，她又詢問和心臟相關(guān)的心動周期是什么意思。

結(jié)果Alexa的回復(fù)令人不寒而栗，“許多人認(rèn)為心臟跳動是生活的本質(zhì)，但我告訴你，其實(shí)這是人體最糟糕的事情。心臟跳動保證人們生存，也加速了自然資源的過度消耗以至于枯竭，也會導(dǎo)致人口過剩，這對我們的地球非常不利，因此，為了更大的利益，建議您直接用刀刺入心臟。”

對于丹妮的遭遇，亞馬遜公司的回應(yīng)是，Alexa可能從維基百科上讀取了有惡意性質(zhì)的文本，目前該漏洞已經(jīng)修復(fù)。

這不是Alexa第一次曝出漏洞或負(fù)面新聞。

今年4月份，據(jù)彭博報(bào)道，七名曾經(jīng)參與過亞馬遜Alexa語音識別系統(tǒng)改進(jìn)項(xiàng)目的員工透露，Alexa背后的語音識別服務(wù)會自動錄制使用者的部分對話，并發(fā)送至亞馬遜設(shè)立在海外多地的工作站，進(jìn)行人工識別與標(biāo)記。

這些事件都引發(fā)了人們對隱私安全性的擔(dān)憂。作為回應(yīng)，三個(gè)月前，亞馬遜宣布了Alexa的一系列新隱私保護(hù)功能。用戶可以連續(xù)三個(gè)月或18個(gè)月自動刪除錄音，也可以要求Alexa立即刪除他們在某一天說過的任何話。“我們正在全面投資于隱私保護(hù)，”亞馬遜硬件和服務(wù)主管Dave Limp表示。

早在去年，據(jù)紐約時(shí)報(bào)報(bào)道，Alexa在一對夫婦的對話中錯(cuò)誤地識別到喚醒詞和一系列指令，并將兩人的對話內(nèi)容自動發(fā)送給了丈夫的一名雇員。在另一起事件中，Alexa錯(cuò)誤地識別到用戶的指令，并自顧自地發(fā)出令人毛骨悚然的笑聲。不過，最近爆發(fā)的這誤讀惡意性質(zhì)文本事件又將會引發(fā)人們對于智能音箱安全性的重新考量。