AI人臉識(shí)別技術(shù)在執(zhí)法領(lǐng)域可以被推行么？

 如今，人臉識(shí)別技術(shù)被廣泛應(yīng)用于智能手機(jī)領(lǐng)域，但人臉識(shí)別技術(shù)還未真正成熟。近期，亞馬遜想要在執(zhí)法領(lǐng)域推行AI人臉識(shí)別技術(shù)，但卻遭到了多方質(zhì)疑與反對(duì)?！度A盛頓郵報(bào)》對(duì)“俄勒岡州成為亞馬遜人臉識(shí)別政策的試驗(yàn)場(chǎng)”發(fā)表了相關(guān)文章

希爾斯博羅，俄勒岡州——當(dāng)?shù)匾患褹ce五金公司的員工報(bào)告說，一名年輕女子帶著一箱11.99美元的焊接氣體走出了商店，而她的手提包里卻沒有支付這筆錢， 一項(xiàng)精心設(shè)計(jì)的高科技打擊犯罪行動(dòng)迅速展開。

華盛頓縣治安官的一名偵探與該機(jī)構(gòu)的特別調(diào)查組合作，通過亞馬遜(Amazon)開發(fā)的一套內(nèi)部人臉識(shí)別程序Rekognition，監(jiān)控了這家商店的監(jiān)控錄像，發(fā)現(xiàn)了可能的匹配。

三個(gè)月后，一名緝毒人員在一輛沒有標(biāo)識(shí)的SUV上發(fā)現(xiàn)了這名女子的車牌，并通過無線電通知其他巡邏人員阻止她。一份逮捕報(bào)告顯示，一名警員用手銬銬住了她的手腕。她說她需要這些焊接氣體來修車。

在俄勒岡州西部波特蘭郊外的這個(gè)角落里，警員們通常用老式的方法來追查罪犯，他們會(huì)把嫌疑犯在辦公室里被拍下的照片傳真過去，希望有人能認(rèn)出這張臉。

2017年末，華盛頓縣治安官辦公室成為已知的美國(guó)第一家使用亞馬遜人工智能工具（Rekognition）的執(zhí)法機(jī)構(gòu)，將這片叢林和郊區(qū)變成了一個(gè)公共試驗(yàn)場(chǎng)，用于新一波實(shí)驗(yàn)性的警察監(jiān)控技術(shù)。

Rekognition的準(zhǔn)確性飽受爭(zhēng)議

幾乎在一夜之間，議員們發(fā)現(xiàn)他們的調(diào)查權(quán)力被賦予了更大的權(quán)力，這使得他們能夠掃描自2001年以來在該縣監(jiān)獄拍攝的30多萬張嫌疑犯臉部照片的匹配項(xiàng)。安全攝像頭、社交媒體賬號(hào)或副手的智能手機(jī)捕捉到的人臉模糊圖片，可以很快成為他們身份的鏈接，包括他們的姓名、家庭和地址。警員們說，去年記錄在案的人臉識(shí)別搜索超過1,000次，他們有時(shí)會(huì)利用搜索結(jié)果查找嫌疑人的Facebook頁面、訪問他們的家或?qū)嵤┐丁?/p>

但華盛頓縣也成為了一場(chǎng)高風(fēng)險(xiǎn)戰(zhàn)斗的起點(diǎn)，這場(chǎng)戰(zhàn)斗圍繞的是算法不受監(jiān)管的警務(wù)增長(zhǎng)。辯護(hù)律師、人工智能研究人員和民權(quán)專家認(rèn)為，這項(xiàng)技術(shù)可能會(huì)錯(cuò)誤逮捕那些與視頻圖像相似的無辜人士。Rekognition的準(zhǔn)確性也備受爭(zhēng)議，一些專家擔(dān)心，武裝代表的錯(cuò)誤身份可能會(huì)產(chǎn)生危險(xiǎn)的影響，威脅到隱私和人們的生命。

近年來，一些警察機(jī)構(gòu)使用Cognitec、IDEMIA和NEC等承包商開發(fā)的系統(tǒng)，對(duì)州或聯(lián)邦調(diào)查局的數(shù)據(jù)庫(kù)進(jìn)行人臉識(shí)別搜索。但亞馬遜的推出，或許標(biāo)志著這項(xiàng)備受爭(zhēng)議的面部掃描技術(shù)將成為主流。Rekognition很容易激活，不需要什么主要的技術(shù)基礎(chǔ)設(shè)施，而且?guī)缀跞魏稳硕伎梢砸缘蛢r(jià)獲得。首次上傳大量圖片，華盛頓縣花了大約700美元，現(xiàn)在，對(duì)于所有的搜索，每月大約只支付7美元。

不過，在頭18個(gè)月的實(shí)際測(cè)試中，我們無法判斷這項(xiàng)技術(shù)究竟有多準(zhǔn)確或有效。當(dāng)警方使用面部識(shí)別搜索時(shí)，執(zhí)法人員無需在逮捕報(bào)告中注明，導(dǎo)致逮捕的確切次數(shù)也不清楚。警長(zhǎng)的官員說，該軟件已經(jīng)導(dǎo)致數(shù)十人因盜竊、暴力或其他罪行被捕，但在公開記錄的要求中只找到了9份涉及面部識(shí)別的案件報(bào)告。

“就像任何調(diào)查技術(shù)一樣，我們不會(huì)告訴人們我們是如何抓到他們的，我們希望他們繼續(xù)猜測(cè)。”重案組的偵探Robert Rookhuyzen說。他已經(jīng)進(jìn)行了“幾十次”搜索，并且發(fā)現(xiàn)在75%的情況下是有用的。

警長(zhǎng)的官員說，面部掃描并不總是標(biāo)志著調(diào)查的結(jié)束：在指控犯罪嫌疑人之前，警員們還必須確定可能的原因或找到證據(jù)。但警長(zhǎng)辦公室為面部識(shí)別的使用制定了自己的規(guī)則，允許警員使用該工具來識(shí)別尸體、昏迷的嫌疑人和拒絕透露姓名的人。

搜索工具的不完美的結(jié)果增加了一個(gè)無辜的人被標(biāo)記和逮捕的風(fēng)險(xiǎn)，特別是在掃描圖像模糊、質(zhì)量低下或部分隱藏的情況下。警員們還可以在搜索過程中掃描藝術(shù)家的素描，人工智能專家表示，這種不尋常的使用可能更容易導(dǎo)致錯(cuò)誤匹配。

亞馬遜的執(zhí)法指南稱，只有當(dāng)系統(tǒng)對(duì)匹配有99%的把握時(shí)，官員才應(yīng)該采納Rekognition的結(jié)果。但是這里的警員們?cè)谑褂眠@個(gè)工具時(shí)的搜索信心測(cè)試中并沒有顯示出來。相反，即使系統(tǒng)在匹配中的確定性很低，在每次搜索中也都會(huì)給他們五種可能的匹配。

在回答了《華盛頓郵報(bào)》的問題后，亞馬遜在這些指導(dǎo)方針中增加了措辭，規(guī)定警官在拘留嫌疑人之前應(yīng)該人為審查所有匹配，搜索不應(yīng)被用作采取行動(dòng)的唯一決定因素。

亞馬遜人臉識(shí)別技術(shù)處于輿論漩渦

亞馬遜和俄勒岡州第三大執(zhí)法機(jī)構(gòu)之間的關(guān)系是互惠互利的，治安官辦公室正在幫助完善這個(gè)系統(tǒng)，亞馬遜希望在全國(guó)銷售這個(gè)系統(tǒng)。但亞馬遜進(jìn)軍執(zhí)法銷售領(lǐng)域的舉動(dòng)，令一些法律維權(quán)人士感到擔(dān)憂，他們表示，該系統(tǒng)對(duì)公民自由構(gòu)成了太多風(fēng)險(xiǎn)。

“政府是非常強(qiáng)大的，在一個(gè)案件中，它會(huì)帶來很多去應(yīng)對(duì)給公民個(gè)體。” 為無法負(fù)擔(dān)起律師費(fèi)用的被告辯護(hù)的華盛頓縣公設(shè)辯護(hù)律師辦公室主任Mary Bruington說，“你把它和亞馬遜配對(duì)了？這是一個(gè)強(qiáng)有力的伙伴關(guān)系。”

亞馬遜網(wǎng)絡(luò)服務(wù)公司云計(jì)算部門的人工智能總經(jīng)理Matt Wood在一份聲明中說，Rekognition只是“對(duì)一項(xiàng)100%由人類驅(qū)動(dòng)的調(diào)查的許多其他線索中的另一個(gè)投入。”

盡管如此,該公司仍面臨著許多批評(píng)：高級(jí)人工智能研究人員,國(guó)會(huì)成員和民權(quán)組織,以及亞馬遜的自己的一些投資者和雇員曾敦促該公司停止向執(zhí)法部門提供的技術(shù), 有研究指出，該系統(tǒng)對(duì)皮膚黝黑的臉部識(shí)別不太準(zhǔn)確。亞馬遜對(duì)這一研究提出了質(zhì)疑。

亞馬遜的一些競(jìng)爭(zhēng)對(duì)手也拒絕了類似的合同。微軟總裁Brad Smith說，該公司最近在4月份的時(shí)候拒絕提供其面部識(shí)別軟件給加州執(zhí)法機(jī)構(gòu)，該機(jī)構(gòu)想要其軍官讓人靠邊停車時(shí)可以隨時(shí)進(jìn)行臉部掃描。但它已經(jīng)同意了一項(xiàng)將該技術(shù)應(yīng)用在美國(guó)監(jiān)獄中的協(xié)議。微軟拒絕提供細(xì)節(jié)。

亞馬遜的投資者將在5月就一項(xiàng)由一群維權(quán)股東支持的提案進(jìn)行投票，該提案將阻止該公司向政府機(jī)構(gòu)出售Rekognition，除非該公司董事會(huì)認(rèn)定它不會(huì)對(duì)人權(quán)構(gòu)成風(fēng)險(xiǎn)。

今年3月，警長(zhǎng)辦公室允許《華盛頓郵報(bào)》的記者在警車、偵探辦公室和縣監(jiān)獄里呆上兩天，觀察警員們是如何將這項(xiàng)技術(shù)融入日常案件的。大多數(shù)接受采訪的人表示，該軟件為他們節(jié)省了時(shí)間，增加了逮捕人數(shù)，并幫助他們處理日益增多的視覺證據(jù)。警員和公眾辯護(hù)人說，到目前為止，還沒有出現(xiàn)因?yàn)檎掌ヅ溴e(cuò)誤而對(duì)逮捕提出的任何法律挑戰(zhàn)。

但是俄勒岡州的律師說，在很多人看來，技術(shù)不應(yīng)該成為治安未來即將邁出的一步，他們建造的系統(tǒng)不是作為技術(shù)里程碑，而是道德：如果為了抓住更多的壞人，但有更多的好人可能會(huì)被逮捕，這是好的嗎？

“人們總是喜歡說，‘嘿，如果是能夠抓壞人就很好啊，誰在乎呢’”俄勒岡州的首席副辯護(hù)律師Joshua Crowther說，“直到他們有一天也被抓了。”

【 圖片來源：pixabay 所有者：pixabay 】

“與魔術(shù)無法區(qū)分”

2016年，當(dāng)亞馬遜(Amazon)公開Rekognition時(shí)，該公司稱其為一種強(qiáng)大的深度學(xué)習(xí)人工智能方式的突破，其結(jié)果顯示“與魔術(shù)無法區(qū)分”。在一篇配有一位高管寵物狗照片的博客文章中，該公司為人們?nèi)绾伍_始使用它提供了一些一般性的想法，包括用于安全檢查點(diǎn)或連接在一起收集觀眾面部數(shù)據(jù)的廣告牌。

這次揭幕式引起了eBay前程序員Chris Adzima的注意，他受雇于華盛頓縣治安官辦公室，負(fù)責(zé)開發(fā)一款能被警員應(yīng)用于追蹤犯人行為的iPhone應(yīng)用程序。他的機(jī)構(gòu)在網(wǎng)上已經(jīng)有成千上萬的面部照片，但沒有真正的方法來分析它們。通過使用亞馬遜的人工智能，他在不到三周的時(shí)間里就建立了一個(gè)系統(tǒng)并運(yùn)行起來。

“他們對(duì)現(xiàn)實(shí)世界中的任何類型的應(yīng)用案例都沒有明確的概念，但他們知道自己創(chuàng)造了一個(gè)強(qiáng)大的工具，所以我開始使用它了。”在治安官總部的一個(gè)小隔間里工作的高級(jí)信息系統(tǒng)分析師Adzima說。

警員們立即開始將面部搜索納入日常巡邏任務(wù)中，Adzima還建立了一個(gè)簡(jiǎn)單的內(nèi)部網(wǎng)站，讓他們可以在巡邏車中進(jìn)行搜索。他放棄了搜索信心的百分比，并設(shè)計(jì)系統(tǒng)每次返回5個(gè)結(jié)果。他說，當(dāng)系統(tǒng)返回0個(gè)結(jié)果時(shí)，議員們會(huì)懷疑他們是否把事情搞砸了。為了增加趣味性，每當(dāng)一名警員上傳一張照片，他還會(huì)添加了一個(gè)不必要的紫色“掃描”動(dòng)畫——他說這是受到了像《犯罪現(xiàn)場(chǎng)調(diào)查》這樣的警匪片的啟發(fā)。

當(dāng)他開始在亞馬遜的服務(wù)器上大量輸入圖像數(shù)據(jù)時(shí)，那里的賬戶管理人員注意到了這一點(diǎn)，一些人對(duì)他將其用于警察工作表示驚訝和興奮。2017年，美國(guó)公民自由聯(lián)盟的一份公開記錄請(qǐng)求首次披露了一封電子郵件。郵件中，一名亞馬遜的客戶高管將Adzima介紹給一家警用相機(jī)公司的高管，該公司希望了解他是如何“克服利益相關(guān)者的阻力”的。“你現(xiàn)在是AWS的名人了。”這位高管寫道，并附上了一個(gè)笑臉的表情符號(hào)。

這里的警員們說，這個(gè)系統(tǒng)是一個(gè)巨大的打擊。曾在5起盜竊和盜竊案件中使用過該搜索引擎的Chris Lee表示，他的許多同事成為了多產(chǎn)的用戶，渴望找到一種解決艱難狩獵的簡(jiǎn)單方法。“你總是在想:這會(huì)給我們帶來什么嗎?”他說。

在培訓(xùn)方面，警員們只會(huì)收到一份打印出來的辦公室人臉識(shí)別政策，以及一份簡(jiǎn)短的PPT演示文稿，提醒他們要小心處理結(jié)果。其中一張幻燈片展示了該系統(tǒng)對(duì)上傳的O.J. Simpson面部照片的反應(yīng):退回一張蓄胡須的白人男子的照片。“正如你所看到的，”幻燈片上寫道，“這個(gè)系統(tǒng)仍然需要人工解釋。”

該機(jī)構(gòu)長(zhǎng)達(dá)四頁的政策要求工作人員僅在“犯罪聯(lián)系”的情況下使用該系統(tǒng)，并禁止在“大規(guī)模監(jiān)控”中使用，或根據(jù)宗教、政治活動(dòng)或種族對(duì)人進(jìn)行監(jiān)控。但它也提供了一些例外，包括允許在“生命受到重大威脅”的情況下進(jìn)行面部搜查，或者當(dāng)警方認(rèn)為重罪嫌疑人將在特定時(shí)間出現(xiàn)在特定地點(diǎn)時(shí)進(jìn)行面部搜查。

這種搜查幫助警員想出了一些非常規(guī)的方法。在一個(gè)案例中，一名囚犯在監(jiān)獄里打電話給他的女朋友，她說有逮捕令要逮捕她。警員們進(jìn)入了這名囚犯的Facebook頁面，找到了一段她唱歌的舊視頻，并通過人臉識(shí)別搜索得到了她的名字，幾天后她就被捕了。

警員還可以通過系統(tǒng)查找黑白警用速寫尋找結(jié)果，他們說，在一個(gè)測(cè)試案例中，它指向了一名他們已經(jīng)標(biāo)記為嫌疑人的男子。亞馬遜表示，通過Rekognition進(jìn)行速寫并不違反規(guī)定，但它希望人工審核人“密切關(guān)注以這種方式生成的任何匹配結(jié)果的可信度”。

來自縣公設(shè)辯護(hù)律師辦公室的Bruington說，Rekognition的低廉價(jià)格和易用性可能會(huì)誘使警察機(jī)構(gòu)嘗試一種他們可能并不完全了解的系統(tǒng)。她還擔(dān)心，該系統(tǒng)對(duì)臉部照片的依賴意味著任何以前被警察帶進(jìn)來的人，都更有可能在刑事搜查中重新露面。

她說:“無辜的人每天都要接受刑事司法系統(tǒng)的審判。”

“看那只鳥”

幾十年來，人臉識(shí)別技術(shù)一直是警察局的夢(mèng)想：一種簡(jiǎn)單的、隱秘的、可以在不知情或未經(jīng)他人同意的情況下識(shí)別遠(yuǎn)方的任何人的方法。但直到最近幾年，由于成像技術(shù)和計(jì)算機(jī)能力的提高，以及數(shù)據(jù)存儲(chǔ)成本的大幅下降，這項(xiàng)技術(shù)才變得廉價(jià)和廣泛，被用于給Facebook照片加標(biāo)簽，以及解鎖iphone。

如今的系統(tǒng)將人們的面部照片分解成長(zhǎng)串的代碼，稱為“特征向量”或“臉紋”，可以與龐大數(shù)據(jù)庫(kù)中的其他肖像快速比較。但是，盡管“計(jì)算機(jī)視覺”算法擅長(zhǎng)模式識(shí)別，但它們匹配的是像素，而不是線索，而且可能會(huì)忽略在人眼看來明顯得驚人的不一致性。

盡管如此，事實(shí)證明，廉價(jià)和容易識(shí)別的承諾對(duì)許多公司來說太有吸引力了以至于不能忽視。美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所是評(píng)估人臉識(shí)別算法的聯(lián)邦機(jī)構(gòu)。該機(jī)構(gòu)最近表示，它已經(jīng)測(cè)試了44家公司的127套系統(tǒng)，測(cè)試它們?cè)?ldquo;大規(guī)模人群中的可擴(kuò)展性”，以及在野外識(shí)別“非合作對(duì)象”時(shí)的準(zhǔn)確性。來自微軟和中國(guó)初創(chuàng)企業(yè)依圖科技的頂級(jí)算法，可以在包含數(shù)百萬張圖像的數(shù)據(jù)庫(kù)中，以99%的準(zhǔn)確率匹配人臉照片。

亞馬遜此前曾拒絕提交Rekognition的評(píng)估報(bào)告，稱這項(xiàng)研究孤立版本的核心搜索算法的測(cè)試無法在復(fù)雜的基于云端的搜索中運(yùn)行。但NIST的一名官員表示，這一事實(shí)并未妨礙其他公司進(jìn)行類似的搜索。一位亞馬遜官員表示，該公司已啟動(dòng)一項(xiàng)“實(shí)質(zhì)性”努力，去“重新設(shè)計(jì)”系統(tǒng)的“關(guān)鍵組件”，以便參與其中。

美國(guó)聯(lián)邦調(diào)查局(FBI)表示，在過去的一個(gè)財(cái)政年度，該機(jī)構(gòu)進(jìn)行了5.2萬多次面部識(shí)別搜索。2016年，喬治敦大學(xué)的法律研究人員發(fā)現(xiàn)，至少有52個(gè)州或地方機(jī)構(gòu)在某種程度上依賴于由聯(lián)邦承包商或監(jiān)控公司建立的面部識(shí)別系統(tǒng)。但亞馬遜根據(jù)“儲(chǔ)存的人臉”數(shù)量收取部分費(fèi)用，讓任何一支新警察隊(duì)伍的起步都變得簡(jiǎn)單起來。

沒有聯(lián)邦法律管制面部識(shí)別的使用。不過，今年3月美國(guó)參議院提出的一項(xiàng)兩黨議案，以及亞馬遜總部所在地華盛頓州提出的一項(xiàng)議案，這些議案可能會(huì)實(shí)施新的規(guī)定，比如要求公司通知過路人他們的臉正在被掃描。預(yù)計(jì)舊金山領(lǐng)導(dǎo)人下周將就一項(xiàng)遭到警方反對(duì)的提案進(jìn)行投票，該提案將使舊金山成為美國(guó)第一個(gè)禁止當(dāng)?shù)貦C(jī)構(gòu)使用面部識(shí)別軟件的城市。

亞馬遜高管表示，他們支持國(guó)家進(jìn)行人臉識(shí)別立法，但他們也辯稱，“不應(yīng)該因?yàn)樗赡鼙粸E用就禁止或譴責(zé)新技術(shù)。”聯(lián)邦調(diào)查局(FBI)特工和奧蘭多警方表示，他們已經(jīng)對(duì)該系統(tǒng)進(jìn)行了測(cè)試，亞馬遜已經(jīng)向包括移民和海關(guān)執(zhí)法在內(nèi)的政府機(jī)構(gòu)推銷了這套系統(tǒng)。

華盛頓縣的律師們說，他們才剛剛開始在逮捕報(bào)告中看到這種技術(shù)，一些人正在為可能要在法庭上就系統(tǒng)的可接受性提起訴訟的那一天做準(zhǔn)備。在俄勒岡州公共辯護(hù)服務(wù)辦公室工作的副首席辯護(hù)人Marc Brown說，他擔(dān)心系統(tǒng)的隱藏的決策可能使權(quán)力的天平傾斜：人類目擊者可以在法庭上提出質(zhì)疑，但對(duì)這個(gè)“神奇的黑盒”不可以，“我們作為辯護(hù)律師不能詢問這個(gè)過程是如何工作的。”

Brown補(bǔ)充說，該體系的結(jié)果可能會(huì)通過引導(dǎo)議員們的反應(yīng)，帶來一個(gè)巨大的確認(rèn)偏差問題。他說:“你已經(jīng)被告知這就是你要找的人，所以當(dāng)你調(diào)查的時(shí)候，你的腦海里就會(huì)浮現(xiàn)出這個(gè)想法。問題不再是誰犯了罪，而是支持計(jì)算機(jī)分析的證據(jù)在哪里?”

亞馬遜的軟件正迅速變得更加先進(jìn)。上個(gè)月，該公司宣布了一項(xiàng)Rekognition更新，該更新將提高系統(tǒng)的“情緒檢測(cè)”功能的準(zhǔn)確性，可以根據(jù)一個(gè)人在鏡頭前的樣子自動(dòng)推測(cè)出他的感受。它包括7種受支持的情緒：開心、悲傷、憤怒、驚訝、厭惡、平靜和困惑。

亞馬遜還擁有廣受歡迎的門鈴攝像頭制造商Ring，該公司去年申請(qǐng)了一項(xiàng)面部識(shí)別專利，該專利能夠在買家門口發(fā)現(xiàn)“可疑”人士。Ring的一位發(fā)言人表示，公司的專利申請(qǐng)旨在“探索新技術(shù)的全部可能性”。

與此同時(shí)，華盛頓縣治安官辦公室的人臉數(shù)據(jù)庫(kù)一直在增長(zhǎng)，每年約有1.9萬次監(jiān)獄預(yù)約。當(dāng)人們被逮捕時(shí)，他們會(huì)被帶到一個(gè)熙熙攘攘的接待室，在那里他們會(huì)被一個(gè)網(wǎng)絡(luò)攝像頭拍攝下來，攝像頭的頂部是一個(gè)紅色的豆豆娃紅衣主教。“看那只鳥。”拍照的時(shí)候警官會(huì)對(duì)他們說。

這些照片成為了該縣整個(gè)刑罰系統(tǒng)中囚犯的身份，監(jiān)獄內(nèi)部的一個(gè)網(wǎng)站和iPhone應(yīng)用程序?qū)⑦@些照片顯示在一個(gè)大網(wǎng)格中，這樣警員們就可以快速跟蹤他們的食物攝入量、行為和自殺風(fēng)險(xiǎn)。

Rekognition在囚犯被關(guān)進(jìn)監(jiān)獄后不會(huì)被使用，但它仍然在監(jiān)獄里產(chǎn)生了微妙的影響。Brian van Kleef副警長(zhǎng)站在3號(hào)艙的警衛(wèi)室神經(jīng)中樞，這里是囚犯?jìng)兎Q為“洞”的最高安全級(jí)別的側(cè)翼，他說:“這是我們收集數(shù)據(jù)庫(kù)的地方。”