2019年將成為面部識(shí)別技術(shù)發(fā)展的轉(zhuǎn)折點(diǎn)
從萌芽之初到如今,面部識(shí)別技術(shù)已經(jīng)快速發(fā)展成為功能強(qiáng)大的軟件平臺(tái)。在此過程中,研究人員和民權(quán)倡導(dǎo)者一直在就可能出現(xiàn)的隱私侵犯問題發(fā)出警告,而這些日益加劇的擔(dān)憂在本周三的美國(guó)國(guó)會(huì)會(huì)議中達(dá)到了頂點(diǎn)。
近年來,對(duì)面部識(shí)別技術(shù)的警告已經(jīng)變得緊迫起來,因?yàn)檠芯勘砻?,該系統(tǒng)仍然會(huì)產(chǎn)生相對(duì)較高的誤報(bào)率,而且始終涉及種族和性別偏見。然而,該技術(shù)在美國(guó)的泛濫卻沒有得到遏制,在各級(jí)政府的執(zhí)法機(jī)構(gòu)、私人雇主和學(xué)校中廣泛應(yīng)用開來。在眾議院監(jiān)督與改革委員會(huì)舉行的聽證會(huì)上,監(jiān)管不力問題引起了兩黨關(guān)注。
“在美國(guó)有5000萬部攝像頭被用作監(jiān)控用途,此舉違反了美國(guó)聯(lián)邦憲法第一修正案和第四修正案中有關(guān)正當(dāng)程序自由的規(guī)定。這會(huì)導(dǎo)致各種各樣的錯(cuò)誤,對(duì)非裔美國(guó)人產(chǎn)生非常不利的影響,”俄亥俄州共和黨眾議員Jim Jordan表示?!皼]有民選官員允許各州、聯(lián)邦政府或聯(lián)邦調(diào)查局使用這個(gè)。政府對(duì)此應(yīng)該有一些限制。在我看來,是時(shí)候暫停這項(xiàng)技術(shù)的使用了?!?/p>
聽證會(huì)的專家小組——由各種各樣的法律學(xué)者、隱私倡導(dǎo)者、算法偏見研究人員和職業(yè)執(zhí)法人員組成——在很大程度上呼應(yīng)了這一評(píng)估。他們最直接的呼吁是,在國(guó)會(huì)能夠通過立法充分限制和規(guī)范這項(xiàng)技術(shù),并建立透明度標(biāo)準(zhǔn)之前,暫停政府對(duì)面部識(shí)別系統(tǒng)的使用。即使是在一年前,這樣一個(gè)激進(jìn)的建議在國(guó)會(huì)也可能顯得荒謬可笑。但舊金山已經(jīng)通過了一項(xiàng)這樣的禁令,馬薩諸塞州薩默維爾和加利福尼亞州奧克蘭等城市似乎也準(zhǔn)備效仿。
“《第四修正案》不會(huì)把我們從面部識(shí)別帶來的隱私威脅中拯救出來,”哥倫比亞特區(qū)大學(xué)David A. Clarke法學(xué)院教授Andrew Ferguson在作證時(shí)說道?!爸挥辛⒎ú拍軕?yīng)對(duì)實(shí)時(shí)技術(shù)的實(shí)時(shí)威脅。立法必須考慮到這些監(jiān)視系統(tǒng)的范圍、規(guī)模和復(fù)雜性的不斷擴(kuò)大,以保護(hù)未來的隱私?!?/p>
最近的一系列事件和披露表明,這項(xiàng)技術(shù)已經(jīng)被廣泛采用,如果缺乏監(jiān)督,如果對(duì)于這項(xiàng)技術(shù)的使用者以及這些系統(tǒng)如何工作缺乏透明度,它的缺點(diǎn)將會(huì)變得非常嚴(yán)重。例如,喬治敦大學(xué)法律研究人員上周的一份報(bào)告顯示,盡管每個(gè)城市都表示沒有使用這些平臺(tái),但是芝加哥和底特律都購買了實(shí)時(shí)面部識(shí)別監(jiān)控系統(tǒng)。喬治敦大學(xué)的另一份報(bào)告也提供了一些證據(jù),表明紐約警察局對(duì)于面部識(shí)別的濫用和操縱。據(jù)報(bào)道,警官們將嫌犯素描輸入面部識(shí)別系統(tǒng),或?qū)⑺麄冋J(rèn)為與嫌疑人相似的名人照片輸入面部識(shí)別系統(tǒng),并試圖從這些無關(guān)的圖像中辨認(rèn)出嫌疑人來。
另外,今年4月,一個(gè)面部識(shí)別系統(tǒng)錯(cuò)誤地將布朗大學(xué)學(xué)生Amara Majeed列為斯里蘭卡復(fù)活節(jié)教堂爆炸案的嫌疑人。周三,《科羅拉多斯普林斯媒體》報(bào)道稱,2012年2月至2013年9月,科羅拉多大學(xué)斯普林斯分校的研究人員在未經(jīng)學(xué)生和其他路人同意的情況下,為一個(gè)面部識(shí)別訓(xùn)練數(shù)據(jù)庫拍攝了他們的照片,該數(shù)據(jù)庫是政府資助的一個(gè)項(xiàng)目的一部分。同樣,美國(guó)全國(guó)廣播公司(NBC News)在5月初報(bào)道稱,照片存儲(chǔ)和分享應(yīng)用Ever曾在未經(jīng)用戶主動(dòng)同意的情況下,悄悄開始使用數(shù)百萬用戶的照片訓(xùn)練面部識(shí)別系統(tǒng)。
“我們以及該領(lǐng)域的其他人很長(zhǎng)時(shí)間以來一直認(rèn)為會(huì)出現(xiàn)錯(cuò)誤的識(shí)別。我們預(yù)測(cè)到會(huì)有濫用,而不僅僅是事后的法醫(yī)面部鑒定,”喬治敦大學(xué)法律隱私與技術(shù)中心的創(chuàng)始主任Alvaro Bedoya說?!八羞@些都將成為現(xiàn)實(shí)。任何說這項(xiàng)技術(shù)剛剛起步的人都沒有做足功課?!?/p>
在周三的眾議院聽證會(huì)上,證人同樣強(qiáng)調(diào),面部識(shí)別技術(shù)不僅是一個(gè)靜態(tài)數(shù)據(jù)庫,而是越來越多地用于掃描、實(shí)時(shí)、非特定的拖拽網(wǎng)絡(luò)——這種技術(shù)有時(shí)被稱為“面部監(jiān)控”。鑒于面部識(shí)別的主要缺點(diǎn),尤其是在準(zhǔn)確識(shí)別有色人種、女性和性別不定人群方面,證人辯稱,目前執(zhí)法部門不應(yīng)該使用這項(xiàng)技術(shù)。麻省理工學(xué)院研究員、算法正義聯(lián)盟創(chuàng)始人Joy Buolamwini表示,她將用于訓(xùn)練大多數(shù)面部識(shí)別系統(tǒng)的數(shù)據(jù)集稱為“白男”集,因?yàn)樗褂玫拇蟛糠终掌际前兹四行浴?/p>
“就在本周,一名男子起訴了Uber,原因是他的司機(jī)賬戶因面部識(shí)別失敗而被停用,” Buolamwini周三對(duì)監(jiān)督與改革委員會(huì)表示?!安剪斂肆值淖鈶粽诳棺h安裝不必要的面部識(shí)別系統(tǒng)。新的研究顯示,在將面部分析技術(shù)用于醫(yī)療保健方面存在偏見,而面部識(shí)別技術(shù)正在向?qū)W校出售。我們的面部很可能是隱私的最后邊界?!?/p>
周三,來自不同政治派別的代表表示,該委員會(huì)準(zhǔn)備制定兩黨立法,限制并確立對(duì)執(zhí)法機(jī)構(gòu)和其他美國(guó)實(shí)體使用面部識(shí)別的監(jiān)督。但多年來,在聯(lián)邦一級(jí)取得的實(shí)質(zhì)性成果寥寥無幾。不僅如此,在私人領(lǐng)域的宣傳也面臨著重大障礙。例如,周三,亞馬遜股東否決了兩項(xiàng)有關(guān)限制使用該公司備受爭(zhēng)議的Rekognition面部識(shí)別軟件的提議,允許研究隱私和民權(quán)保障措施。
盡管如此,隨著面部識(shí)別的普及化程度越來越高,隱私倡導(dǎo)者將2019年視為一個(gè)潛在的轉(zhuǎn)折點(diǎn)。
耶魯大學(xué)法學(xué)院信息社會(huì)項(xiàng)目隱私律師TIffany Li表示:“我認(rèn)為,阻止面部識(shí)別技術(shù)的擴(kuò)散已經(jīng)太晚了。政府和企業(yè)行為體每天都在以新的方式使用它。希望我們能達(dá)到一個(gè)臨界點(diǎn),開始認(rèn)真解決這些問題。也許那一刻就是現(xiàn)在?!?/p>