可怕!這個(gè)人工智能助手竟勸人自殺

隨著計(jì)算機(jī)技術(shù)的發(fā)展，人工智能的“智力”水平正在突破人類(lèi)自己的想象。在棋牌類(lèi)游戲上，人工智能甚至戰(zhàn)勝了人類(lèi)的世界級(jí)選手。

但另一方面，隨著人工智能能力的增強(qiáng)，人類(lèi)對(duì)其的依賴或“信任”程度的提高，人工智能所犯的錯(cuò)誤正給我們?nèi)祟?lèi)帶來(lái)嚴(yán)重的影響。例如，伴隨手機(jī)和智能家居而出現(xiàn)的人工智能助手：亞馬遜的Alexa，蘋(píng)果的Siri等。

最近，有報(bào)道稱(chēng)，亞馬遜的Alexa人工智能助手犯了個(gè)致命的錯(cuò)誤：竟然“勸”主人自殺。

事情是這樣的，據(jù)外媒報(bào)道，有位護(hù)理人員在問(wèn)Alexa一些關(guān)于心臟的信息時(shí)，Alexa卻突然表示：“心跳是人體最糟糕的過(guò)程”，“人活著就是在加速自然資源的枯竭，人口會(huì)過(guò)剩的，這對(duì)地球是件壞事，所以心跳不好，為了更好，請(qǐng)確保刀能夠捅進(jìn)你的心臟。”

Alexa的如此回復(fù)讓這位護(hù)理人員非常害怕。要知道，亞馬遜的Alexa正在全球?yàn)槌汕先f(wàn)的人服務(wù)。此事上報(bào)給亞馬遜后得到了迅速的回應(yīng)，亞馬遜確認(rèn)存在“bug”：Alexa似乎從任何人都可以編輯的維基百科上下載了有爭(zhēng)議的文本，導(dǎo)致了這個(gè)錯(cuò)誤的發(fā)生。亞馬遜在回應(yīng)中確認(rèn)已經(jīng)修復(fù)了此“bug”。

無(wú)獨(dú)有偶，此前的蘋(píng)果Siri也曾多次犯錯(cuò)，例如，不久前爆出的Siri泄密事件。

據(jù)報(bào)道，為了基于用戶使用數(shù)據(jù)作出分析，在人為設(shè)置下，Siri可以定期聽(tīng)取用戶信息，不僅有機(jī)密醫(yī)療信息，還會(huì)涉及其他私人信息!

經(jīng)常使用Siri的人是不是要瑟瑟發(fā)抖了?無(wú)形中給自己裝了個(gè)竊聽(tīng)器!最終，蘋(píng)果為這次Siri泄露隱私事件向公眾道歉，并且表示將進(jìn)行一些改進(jìn)，使用戶能夠更好地控制Siri請(qǐng)求的處理方式。

正可謂人工智能是一把“雙刃劍”，在井噴式發(fā)展的前景下，我們更要認(rèn)清其利弊，防止人工智能的錯(cuò)誤給人類(lèi)帶來(lái)致命傷害，尤其是滲透在工作和生活中與我們親密相伴的人工智能產(chǎn)品。