2019年將成為面部識(shí)別技術(shù)發(fā)展的轉(zhuǎn)折點(diǎn)

從萌芽之初到如今，面部識(shí)別技術(shù)已經(jīng)快速發(fā)展成為功能強(qiáng)大的軟件平臺(tái)。在此過程中，研究人員和民權(quán)倡導(dǎo)者一直在就可能出現(xiàn)的隱私侵犯問題發(fā)出警告，而這些日益加劇的擔(dān)憂在本周三的美國(guó)國(guó)會(huì)會(huì)議中達(dá)到了頂點(diǎn)。

近年來，對(duì)面部識(shí)別技術(shù)的警告已經(jīng)變得緊迫起來，因?yàn)檠芯勘砻?，該系統(tǒng)仍然會(huì)產(chǎn)生相對(duì)較高的誤報(bào)率，而且始終涉及種族和性別偏見。然而，該技術(shù)在美國(guó)的泛濫卻沒有得到遏制，在各級(jí)政府的執(zhí)法機(jī)構(gòu)、私人雇主和學(xué)校中廣泛應(yīng)用開來。在眾議院監(jiān)督與改革委員會(huì)舉行的聽證會(huì)上，監(jiān)管不力問題引起了兩黨關(guān)注。

“在美國(guó)有5000萬部攝像頭被用作監(jiān)控用途，此舉違反了美國(guó)聯(lián)邦憲法第一修正案和第四修正案中有關(guān)正當(dāng)程序自由的規(guī)定。這會(huì)導(dǎo)致各種各樣的錯(cuò)誤，對(duì)非裔美國(guó)人產(chǎn)生非常不利的影響，”俄亥俄州共和黨眾議員Jim Jordan表示?！皼]有民選官員允許各州、聯(lián)邦政府或聯(lián)邦調(diào)查局使用這個(gè)。政府對(duì)此應(yīng)該有一些限制。在我看來，是時(shí)候暫停這項(xiàng)技術(shù)的使用了?！?/p>

聽證會(huì)的專家小組——由各種各樣的法律學(xué)者、隱私倡導(dǎo)者、算法偏見研究人員和職業(yè)執(zhí)法人員組成——在很大程度上呼應(yīng)了這一評(píng)估。他們最直接的呼吁是，在國(guó)會(huì)能夠通過立法充分限制和規(guī)范這項(xiàng)技術(shù)，并建立透明度標(biāo)準(zhǔn)之前，暫停政府對(duì)面部識(shí)別系統(tǒng)的使用。即使是在一年前，這樣一個(gè)激進(jìn)的建議在國(guó)會(huì)也可能顯得荒謬可笑。但舊金山已經(jīng)通過了一項(xiàng)這樣的禁令，馬薩諸塞州薩默維爾和加利福尼亞州奧克蘭等城市似乎也準(zhǔn)備效仿。

“《第四修正案》不會(huì)把我們從面部識(shí)別帶來的隱私威脅中拯救出來，”哥倫比亞特區(qū)大學(xué)David A． Clarke法學(xué)院教授Andrew Ferguson在作證時(shí)說道?！爸挥辛⒎ú拍軕?yīng)對(duì)實(shí)時(shí)技術(shù)的實(shí)時(shí)威脅。立法必須考慮到這些監(jiān)視系統(tǒng)的范圍、規(guī)模和復(fù)雜性的不斷擴(kuò)大，以保護(hù)未來的隱私?！?/p>

最近的一系列事件和披露表明，這項(xiàng)技術(shù)已經(jīng)被廣泛采用，如果缺乏監(jiān)督，如果對(duì)于這項(xiàng)技術(shù)的使用者以及這些系統(tǒng)如何工作缺乏透明度，它的缺點(diǎn)將會(huì)變得非常嚴(yán)重。例如，喬治敦大學(xué)法律研究人員上周的一份報(bào)告顯示，盡管每個(gè)城市都表示沒有使用這些平臺(tái)，但是芝加哥和底特律都購買了實(shí)時(shí)面部識(shí)別監(jiān)控系統(tǒng)。喬治敦大學(xué)的另一份報(bào)告也提供了一些證據(jù)，表明紐約警察局對(duì)于面部識(shí)別的濫用和操縱。據(jù)報(bào)道，警官們將嫌犯素描輸入面部識(shí)別系統(tǒng)，或?qū)⑺麄冋J(rèn)為與嫌疑人相似的名人照片輸入面部識(shí)別系統(tǒng)，并試圖從這些無關(guān)的圖像中辨認(rèn)出嫌疑人來。

另外，今年4月，一個(gè)面部識(shí)別系統(tǒng)錯(cuò)誤地將布朗大學(xué)學(xué)生Amara Majeed列為斯里蘭卡復(fù)活節(jié)教堂爆炸案的嫌疑人。周三，《科羅拉多斯普林斯媒體》報(bào)道稱，2012年2月至2013年9月，科羅拉多大學(xué)斯普林斯分校的研究人員在未經(jīng)學(xué)生和其他路人同意的情況下，為一個(gè)面部識(shí)別訓(xùn)練數(shù)據(jù)庫拍攝了他們的照片，該數(shù)據(jù)庫是政府資助的一個(gè)項(xiàng)目的一部分。同樣，美國(guó)全國(guó)廣播公司（NBC News）在5月初報(bào)道稱，照片存儲(chǔ)和分享應(yīng)用Ever曾在未經(jīng)用戶主動(dòng)同意的情況下，悄悄開始使用數(shù)百萬用戶的照片訓(xùn)練面部識(shí)別系統(tǒng)。

“我們以及該領(lǐng)域的其他人很長(zhǎng)時(shí)間以來一直認(rèn)為會(huì)出現(xiàn)錯(cuò)誤的識(shí)別。我們預(yù)測(cè)到會(huì)有濫用，而不僅僅是事后的法醫(yī)面部鑒定，”喬治敦大學(xué)法律隱私與技術(shù)中心的創(chuàng)始主任Alvaro Bedoya說?！八羞@些都將成為現(xiàn)實(shí)。任何說這項(xiàng)技術(shù)剛剛起步的人都沒有做足功課?！?/p>

在周三的眾議院聽證會(huì)上，證人同樣強(qiáng)調(diào)，面部識(shí)別技術(shù)不僅是一個(gè)靜態(tài)數(shù)據(jù)庫，而是越來越多地用于掃描、實(shí)時(shí)、非特定的拖拽網(wǎng)絡(luò)——這種技術(shù)有時(shí)被稱為“面部監(jiān)控”。鑒于面部識(shí)別的主要缺點(diǎn)，尤其是在準(zhǔn)確識(shí)別有色人種、女性和性別不定人群方面，證人辯稱，目前執(zhí)法部門不應(yīng)該使用這項(xiàng)技術(shù)。麻省理工學(xué)院研究員、算法正義聯(lián)盟創(chuàng)始人Joy Buolamwini表示，她將用于訓(xùn)練大多數(shù)面部識(shí)別系統(tǒng)的數(shù)據(jù)集稱為“白男”集，因?yàn)樗褂玫拇蟛糠终掌际前兹四行浴?/p>

“就在本周，一名男子起訴了Uber，原因是他的司機(jī)賬戶因面部識(shí)別失敗而被停用，” Buolamwini周三對(duì)監(jiān)督與改革委員會(huì)表示?！安剪斂肆值淖鈶粽诳棺h安裝不必要的面部識(shí)別系統(tǒng)。新的研究顯示，在將面部分析技術(shù)用于醫(yī)療保健方面存在偏見，而面部識(shí)別技術(shù)正在向?qū)W校出售。我們的面部很可能是隱私的最后邊界?！?/p>

周三，來自不同政治派別的代表表示，該委員會(huì)準(zhǔn)備制定兩黨立法，限制并確立對(duì)執(zhí)法機(jī)構(gòu)和其他美國(guó)實(shí)體使用面部識(shí)別的監(jiān)督。但多年來，在聯(lián)邦一級(jí)取得的實(shí)質(zhì)性成果寥寥無幾。不僅如此，在私人領(lǐng)域的宣傳也面臨著重大障礙。例如，周三，亞馬遜股東否決了兩項(xiàng)有關(guān)限制使用該公司備受爭(zhēng)議的Rekognition面部識(shí)別軟件的提議，允許研究隱私和民權(quán)保障措施。

盡管如此，隨著面部識(shí)別的普及化程度越來越高，隱私倡導(dǎo)者將2019年視為一個(gè)潛在的轉(zhuǎn)折點(diǎn)。

耶魯大學(xué)法學(xué)院信息社會(huì)項(xiàng)目隱私律師TIffany Li表示：“我認(rèn)為，阻止面部識(shí)別技術(shù)的擴(kuò)散已經(jīng)太晚了。政府和企業(yè)行為體每天都在以新的方式使用它。希望我們能達(dá)到一個(gè)臨界點(diǎn)，開始認(rèn)真解決這些問題。也許那一刻就是現(xiàn)在?！?/p>