2019年將成為面部識別技術(shù)發(fā)展的轉(zhuǎn)折點

從萌芽之初到如今，面部識別技術(shù)已經(jīng)快速發(fā)展成為功能強大的軟件平臺。在此過程中，研究人員和民權(quán)倡導(dǎo)者一直在就可能出現(xiàn)的隱私侵犯問題發(fā)出警告，而這些日益加劇的擔(dān)憂在本周三的美國國會會議中達到了頂點。

近年來，對面部識別技術(shù)的警告已經(jīng)變得緊迫起來，因為研究表明，該系統(tǒng)仍然會產(chǎn)生相對較高的誤報率，而且始終涉及種族和性別偏見。然而，該技術(shù)在美國的泛濫卻沒有得到遏制，在各級政府的執(zhí)法機構(gòu)、私人雇主和學(xué)校中廣泛應(yīng)用開來。在眾議院監(jiān)督與改革委員會舉行的聽證會上，監(jiān)管不力問題引起了兩黨關(guān)注。

“在美國有5000萬部攝像頭被用作監(jiān)控用途，此舉違反了美國聯(lián)邦憲法第一修正案和第四修正案中有關(guān)正當(dāng)程序自由的規(guī)定。這會導(dǎo)致各種各樣的錯誤，對非裔美國人產(chǎn)生非常不利的影響，”俄亥俄州共和黨眾議員Jim Jordan表示?！皼]有民選官員允許各州、聯(lián)邦政府或聯(lián)邦調(diào)查局使用這個。政府對此應(yīng)該有一些限制。在我看來，是時候暫停這項技術(shù)的使用了。”

聽證會的專家小組——由各種各樣的法律學(xué)者、隱私倡導(dǎo)者、算法偏見研究人員和職業(yè)執(zhí)法人員組成——在很大程度上呼應(yīng)了這一評估。他們最直接的呼吁是，在國會能夠通過立法充分限制和規(guī)范這項技術(shù)，并建立透明度標(biāo)準(zhǔn)之前，暫停政府對面部識別系統(tǒng)的使用。即使是在一年前，這樣一個激進的建議在國會也可能顯得荒謬可笑。但舊金山已經(jīng)通過了一項這樣的禁令，馬薩諸塞州薩默維爾和加利福尼亞州奧克蘭等城市似乎也準(zhǔn)備效仿。

“《第四修正案》不會把我們從面部識別帶來的隱私威脅中拯救出來，”哥倫比亞特區(qū)大學(xué)David A． Clarke法學(xué)院教授Andrew Ferguson在作證時說道?！爸挥辛⒎ú拍軕?yīng)對實時技術(shù)的實時威脅。立法必須考慮到這些監(jiān)視系統(tǒng)的范圍、規(guī)模和復(fù)雜性的不斷擴大，以保護未來的隱私。”

最近的一系列事件和披露表明，這項技術(shù)已經(jīng)被廣泛采用，如果缺乏監(jiān)督，如果對于這項技術(shù)的使用者以及這些系統(tǒng)如何工作缺乏透明度，它的缺點將會變得非常嚴(yán)重。例如，喬治敦大學(xué)法律研究人員上周的一份報告顯示，盡管每個城市都表示沒有使用這些平臺，但是芝加哥和底特律都購買了實時面部識別監(jiān)控系統(tǒng)。喬治敦大學(xué)的另一份報告也提供了一些證據(jù)，表明紐約警察局對于面部識別的濫用和操縱。據(jù)報道，警官們將嫌犯素描輸入面部識別系統(tǒng)，或?qū)⑺麄冋J(rèn)為與嫌疑人相似的名人照片輸入面部識別系統(tǒng)，并試圖從這些無關(guān)的圖像中辨認(rèn)出嫌疑人來。

另外，今年4月，一個面部識別系統(tǒng)錯誤地將布朗大學(xué)學(xué)生Amara Majeed列為斯里蘭卡復(fù)活節(jié)教堂爆炸案的嫌疑人。周三，《科羅拉多斯普林斯媒體》報道稱，2012年2月至2013年9月，科羅拉多大學(xué)斯普林斯分校的研究人員在未經(jīng)學(xué)生和其他路人同意的情況下，為一個面部識別訓(xùn)練數(shù)據(jù)庫拍攝了他們的照片，該數(shù)據(jù)庫是政府資助的一個項目的一部分。同樣，美國全國廣播公司（NBC News）在5月初報道稱，照片存儲和分享應(yīng)用Ever曾在未經(jīng)用戶主動同意的情況下，悄悄開始使用數(shù)百萬用戶的照片訓(xùn)練面部識別系統(tǒng)。

“我們以及該領(lǐng)域的其他人很長時間以來一直認(rèn)為會出現(xiàn)錯誤的識別。我們預(yù)測到會有濫用，而不僅僅是事后的法醫(yī)面部鑒定，”喬治敦大學(xué)法律隱私與技術(shù)中心的創(chuàng)始主任Alvaro Bedoya說?！八羞@些都將成為現(xiàn)實。任何說這項技術(shù)剛剛起步的人都沒有做足功課?！?/p>

在周三的眾議院聽證會上，證人同樣強調(diào)，面部識別技術(shù)不僅是一個靜態(tài)數(shù)據(jù)庫，而是越來越多地用于掃描、實時、非特定的拖拽網(wǎng)絡(luò)——這種技術(shù)有時被稱為“面部監(jiān)控”。鑒于面部識別的主要缺點，尤其是在準(zhǔn)確識別有色人種、女性和性別不定人群方面，證人辯稱，目前執(zhí)法部門不應(yīng)該使用這項技術(shù)。麻省理工學(xué)院研究員、算法正義聯(lián)盟創(chuàng)始人Joy Buolamwini表示，她將用于訓(xùn)練大多數(shù)面部識別系統(tǒng)的數(shù)據(jù)集稱為“白男”集，因為所使用的大部分照片都是白人男性。

“就在本周，一名男子起訴了Uber，原因是他的司機賬戶因面部識別失敗而被停用，” Buolamwini周三對監(jiān)督與改革委員會表示?！安剪斂肆值淖鈶粽诳棺h安裝不必要的面部識別系統(tǒng)。新的研究顯示，在將面部分析技術(shù)用于醫(yī)療保健方面存在偏見，而面部識別技術(shù)正在向?qū)W校出售。我們的面部很可能是隱私的最后邊界?！?/p>

周三，來自不同政治派別的代表表示，該委員會準(zhǔn)備制定兩黨立法，限制并確立對執(zhí)法機構(gòu)和其他美國實體使用面部識別的監(jiān)督。但多年來，在聯(lián)邦一級取得的實質(zhì)性成果寥寥無幾。不僅如此，在私人領(lǐng)域的宣傳也面臨著重大障礙。例如，周三，亞馬遜股東否決了兩項有關(guān)限制使用該公司備受爭議的Rekognition面部識別軟件的提議，允許研究隱私和民權(quán)保障措施。

盡管如此，隨著面部識別的普及化程度越來越高，隱私倡導(dǎo)者將2019年視為一個潛在的轉(zhuǎn)折點。

耶魯大學(xué)法學(xué)院信息社會項目隱私律師TIffany Li表示：“我認(rèn)為，阻止面部識別技術(shù)的擴散已經(jīng)太晚了。政府和企業(yè)行為體每天都在以新的方式使用它。希望我們能達到一個臨界點，開始認(rèn)真解決這些問題。也許那一刻就是現(xiàn)在?！?/p>