亞馬遜將人臉識(shí)別武器化 人臉隱私保護(hù)開(kāi)始尤為重要

這一天終究還是來(lái)了。

亞馬遜開(kāi)始向軍方推銷(xiāo)起AI武器來(lái)了。

據(jù)悉，亞馬遜正在為政府和警察部門(mén)推銷(xiāo)其一款名為Amazon Rekognition的產(chǎn)品，這款產(chǎn)品可以實(shí)時(shí)識(shí)別，跟蹤和分析人員，并在單幅圖像中識(shí)別多達(dá)100個(gè)人。它還可以快速掃描收集的信息，與數(shù)據(jù)庫(kù)數(shù)千萬(wàn)張面孔進(jìn)行比對(duì)。

這意味著，通過(guò)亞馬遜的技術(shù)可以監(jiān)控“團(tuán)體照片、擁擠人群以及機(jī)場(chǎng)等公共場(chǎng)所中的所有面孔”。此消息一出，瞬間引發(fā)了一系列恐慌。美國(guó)公民自由聯(lián)盟（ACLU）組織了30多個(gè)民權(quán)組織聯(lián)合反對(duì)亞馬遜的此行為，并舉行一系列抗議活動(dòng)，反對(duì)美國(guó)政府使用人臉識(shí)別技術(shù)，并要求亞馬遜CEO貝索斯停止向政府出售RekogniTIon。

大部分民眾認(rèn)為，通過(guò)RekogniTIon，政府現(xiàn)在可以構(gòu)建一個(gè)自動(dòng)識(shí)別和跟蹤任何人的系統(tǒng)。如果警察配備的隨身攝像頭配備了人臉識(shí)別裝置，那么原本用于執(zhí)法透明和問(wèn)責(zé)制的裝置將轉(zhuǎn)變?yōu)獒槍?duì)公眾的監(jiān)視器。

亞馬遜RekogniTIon的精準(zhǔn)人臉識(shí)別

“風(fēng)口浪尖”的亞馬遜

此舉一出，亞馬遜內(nèi)部及其用戶(hù)議論紛紛。

在亞馬遜內(nèi)部，許多員工加入民權(quán)團(tuán)體，對(duì)其行為進(jìn)行抗議，并認(rèn)為這將對(duì)公民權(quán)利、特別是對(duì)移民和人民會(huì)產(chǎn)生獨(dú)特威脅。

6月份，亞馬遜內(nèi)部的100多名員工更是向CEO杰夫·貝索斯（Jeff Bezos）遞交了一份公開(kāi)信，要求公司停止向ICE和其他執(zhí)法機(jī)構(gòu)出售侵入性和違憲的RekogniTIon面部識(shí)別技術(shù)。

亞馬遜CEO杰夫·貝索斯（Jeff Bezos）

除了要求停止出售Rekognition之外，亞馬遜員工在信中還呼吁公司停止對(duì)數(shù)據(jù)分析公司Palantir提供支持。

Palantir是Peter Thiel于2003年創(chuàng)立的大數(shù)據(jù)公司，為執(zhí)法部門(mén)提供預(yù)測(cè)性警務(wù)工具，并通過(guò)亞馬遜網(wǎng)絡(luò)服務(wù)公司與ICE簽訂了大量合同（Thiel曾秘密資助了一起導(dǎo)致Gizmodo的前母公司Gizker Media破產(chǎn)的訴訟）。

但是，對(duì)此情況，亞馬遜并不買(mǎi)賬。面對(duì)“內(nèi)外夾擊”般的抗議，亞馬遜并沒(méi)有像谷歌一般將項(xiàng)目推遲，而是選擇了“正面硬剛”。亞馬遜回應(yīng)：不能因?yàn)榧夹g(shù)可能會(huì)被濫用就限制其進(jìn)步。并表示其將堅(jiān)決的捍衛(wèi)Rekognition。

在商言商，從商業(yè)角度來(lái)看，亞馬遜的行為沒(méi)有原則性的問(wèn)題，但是，當(dāng)人臉識(shí)別技術(shù)牽涉的“倫理”、“隱私安全”等敏感領(lǐng)域時(shí)，這就不像亞馬遜說(shuō)的這樣簡(jiǎn)單了。

人臉識(shí)別，想說(shuō)愛(ài)你不容易

人臉識(shí)別技術(shù)已經(jīng)投入市場(chǎng)中有相當(dāng)長(zhǎng)的時(shí)間了，可是從其表現(xiàn)來(lái)看，并沒(méi)有想象中優(yōu)異。智能相對(duì)論分析師柯鳴認(rèn)為，人臉識(shí)別技術(shù)的發(fā)展，其依然存在著較多問(wèn)題。

1．“冤枉了98％的好人”

人臉識(shí)別的準(zhǔn)確率，遠(yuǎn)沒(méi)有我們想象中的那么高。在此前倫敦議會(huì)聽(tīng)證會(huì)上，大都會(huì)警察局局長(zhǎng)Cressida Dick透露出，本地警察局部署的人臉識(shí)別系統(tǒng)準(zhǔn)確率僅為2％。

去年6月的歐冠聯(lián)賽上，當(dāng)南威爾士警方的人臉識(shí)別相機(jī)首次應(yīng)用時(shí)，系統(tǒng)發(fā)出了2470次警報(bào)。也就是說(shuō)，在這場(chǎng)球賽中每隔三秒就會(huì)提示嫌犯來(lái)了，系統(tǒng)的努力程度著實(shí)令人感動(dòng)。

但是，在這兩千多次的預(yù)警中，只有173次是正確的判斷，AFR的錯(cuò)誤率高達(dá)92％。英國(guó)警方給出的統(tǒng)計(jì)數(shù)據(jù)顯示，截止到今年5月份，南威爾士警方的AFR識(shí)別錯(cuò)誤率平均為91％。

歷史上最著名的人臉誤判案例可能是1903年在美國(guó)堪薩斯州發(fā)生的William West－Will West案件。當(dāng)時(shí)一個(gè)名為威爾？韋斯特（Will West）的犯人正要被收押進(jìn)萊文沃思（Leavenworth）監(jiān)獄。監(jiān)獄職員看他面熟，問(wèn)他以前是否來(lái)過(guò)這里，威爾說(shuō)沒(méi)有。接著職員調(diào)出了William West的照片給威爾看，威爾說(shuō)：“這的確是我，可是你們是怎么拿到這張照片的呢？以前我從未到這兒來(lái)過(guò)?！睆拇耍瑥拿绹?guó)開(kāi)始，各國(guó)監(jiān)獄和司法系統(tǒng)開(kāi)始用指紋進(jìn)行罪犯身份登記和管理。

顯然，此類(lèi)的烏龍事件讓人啼笑皆非的同時(shí)也不免有陣陣隱憂(yōu)。如此“不靠譜”的人臉識(shí)別，真的能夠成為安防等領(lǐng)域的保護(hù)傘嗎？

2．人臉識(shí)別，道阻且長(zhǎng)

先不論人臉識(shí)別本身的正確率，其自身運(yùn)作中也存在著一部分問(wèn)題。

首先，人臉識(shí)別并不是精準(zhǔn)信息對(duì)比，而僅僅是相似度對(duì)比。因?yàn)槿四樧R(shí)別和算大技術(shù)不同，值的設(shè)定方法完全不同，評(píng)判的標(biāo)準(zhǔn)自然也不同，即使從識(shí)別實(shí)際效果看，其包括誤識(shí)率（FAR）：將其他人誤作指定人員的概率；以及拒識(shí)率（FRR）：將指定人員誤作其他人員的概率。這些結(jié)果都受到訓(xùn)練和測(cè)試空間樣本的影響，難以做到完全精確。

其次，人臉圖片的采集如果不做活體監(jiān)測(cè)，就易招致基于用戶(hù)照片的重放攻擊?；铙w檢測(cè)的話(huà)，對(duì)后臺(tái)的計(jì)算資源和網(wǎng)絡(luò)的傳輸資源要求較高，所以在目前實(shí)際上線(xiàn)的人臉識(shí)別都是非常容易攻破的。

最后，人臉形態(tài)的易變形讓人臉識(shí)別更易出錯(cuò)。人可以通過(guò)臉部的變化產(chǎn)生很多表情，而在不同觀察角度，人臉的視覺(jué)圖像也相差很大，另外，人臉識(shí)別還受光照條件（例如白天和夜晚，室內(nèi)和室外等）、人臉的很多遮蓋物（例如口罩、墨鏡、頭發(fā)、胡須等）、年齡等多方面因素的影響。

隱私的無(wú)情泄露，你的臉還好嗎？

在大量的抗議面前，三大公司中微軟首先選擇了低頭。在關(guān)于人臉識(shí)別的潛在用途和濫用的一篇博客文章中，微軟總裁Bradford L． Smith將該技術(shù)與受到全面監(jiān)管的藥品和汽車(chē)等產(chǎn)品進(jìn)行了比較，并敦促美國(guó)國(guó)會(huì)展開(kāi)研究并監(jiān)督人臉識(shí)別技術(shù)的使用。

作為人臉識(shí)別軟件主要制造商之一，微軟表示它將采取措施降低這些系統(tǒng)產(chǎn)生偏差的可能性；制定新的公共原則來(lái)管理技術(shù)；并會(huì)更謹(jǐn)慎地出售其在該領(lǐng)域的軟件和專(zhuān)業(yè)知識(shí)。微軟指出，雖然技術(shù)行業(yè)需要對(duì)其產(chǎn)品負(fù)責(zé)，但是政府也要采取行動(dòng)。

人臉識(shí)別是目前AI領(lǐng)域里應(yīng)用最廣泛的技術(shù)之一，但在推廣的過(guò)程中也引起了越來(lái)越多的爭(zhēng)議。今年4月，個(gè)人隱私保護(hù)組織向美國(guó)聯(lián)邦貿(mào)易委員會(huì)提起訴訟，稱(chēng)Facebook在未獲得用戶(hù)適當(dāng)許可的情況下開(kāi)啟了新的人臉識(shí)別服務(wù)。

當(dāng)前，大數(shù)據(jù)、云計(jì)算和人工智能等技術(shù)推動(dòng)移動(dòng)互聯(lián)網(wǎng)中新的應(yīng)用場(chǎng)景層出不窮，但其背后的隱私和數(shù)據(jù)保護(hù)，已經(jīng)成為網(wǎng)絡(luò)平臺(tái)和移動(dòng)終端迫在眉睫的要?jiǎng)?wù)。從整體移動(dòng)終端市場(chǎng)來(lái)看，應(yīng)用領(lǐng)域數(shù)據(jù)濫用的情況十分突出。第三方應(yīng)用對(duì)于個(gè)人信息過(guò)度收集、隱秘收集和誘騙收集的情況日漸增多。

用戶(hù)隱私數(shù)據(jù)安全挑戰(zhàn)加劇主要出于三方面原因：第一，過(guò)于籠統(tǒng)的“用戶(hù)協(xié)議”販賣(mài)了用戶(hù)信息，獲取和收集用戶(hù)個(gè)人信息的授權(quán)，導(dǎo)致個(gè)人信息使用的不規(guī)范甚至大量泄漏。

第二，用戶(hù)本身對(duì)保護(hù)個(gè)人信息重視程度不足。出于方便的考慮，不少用戶(hù)在多處使用簡(jiǎn)單重復(fù)的賬號(hào)和密碼，當(dāng)一處信息泄露便導(dǎo)致整體信息暴露。

第三，法律層面的缺失。當(dāng)數(shù)據(jù)如同能源一樣重要時(shí)，法律法規(guī)的滯后在一定程度上導(dǎo)致了數(shù)據(jù)安全和隱私保護(hù)的缺失。數(shù)據(jù)所有權(quán)、數(shù)據(jù)交易規(guī)則等基礎(chǔ)法律界定仍未明確。例如，個(gè)人數(shù)據(jù)原本屬于用戶(hù)本身，但用戶(hù)在網(wǎng)絡(luò)平臺(tái)中所產(chǎn)生的數(shù)據(jù)，如交易數(shù)據(jù)和行為數(shù)據(jù)，在經(jīng)過(guò)脫敏后其所有權(quán)和使用權(quán)歸屬用戶(hù)還是平臺(tái)，仍未有答案。

從目前來(lái)看，人臉識(shí)別的場(chǎng)景也主要分為兩種：一種是線(xiàn)上，如電腦通過(guò)你上傳的用戶(hù)圖像識(shí)別你的身份；另一個(gè)是線(xiàn)下，如系統(tǒng)通過(guò)你在街上被監(jiān)視器拍到照片來(lái)識(shí)別你的身份。而當(dāng)前的情況是，線(xiàn)上與線(xiàn)下的數(shù)據(jù)保護(hù)都做的遠(yuǎn)遠(yuǎn)不夠。所謂的用戶(hù)授權(quán)更多是形同虛設(shè)，誰(shuí)真正擁有了我們的“臉”？ 臉部識(shí)別軟件的政府監(jiān)管，將如何進(jìn)行？人臉隱私保護(hù)這條路，似乎還需要堅(jiān)強(qiáng)的走下去。

智能相對(duì)論：深挖人工智能這口井，評(píng)出咸淡，講出黑白，道出深淺。重點(diǎn)關(guān)注領(lǐng)域：AI＋醫(yī)療、機(jī)器人、智能駕駛、AI＋硬件、物聯(lián)網(wǎng)、AI＋金融、AI＋安全、AR／VR、開(kāi)發(fā)者以及背后的芯片、算法、人機(jī)交互等。