用人臉識(shí)別軟件來判斷罪犯，這確定不是開玩笑么?

你的臉會(huì)告訴別人什么信息呢?人臉識(shí)別技術(shù)可以識(shí)別出你的年齡、性別以及情緒?，F(xiàn)在，有兩名科學(xué)家稱你的臉甚至還可以告訴人們你有沒有犯罪。他們聲稱已經(jīng)開發(fā)出一種系統(tǒng)，這種系統(tǒng)可以從幾千張從未見過的人臉中識(shí)別出誰是罪犯。

但另一些研究人員對(duì)該系統(tǒng)的功能進(jìn)行了批判，他們認(rèn)為這可能會(huì)使人臉識(shí)別技術(shù)在應(yīng)用過程中產(chǎn)生道德問題。

研究的參與者，來自加拿大哈密爾頓麥克馬斯特大學(xué)的Xiaolin Wu說道，這個(gè)問題過于主觀了，他和他的同事，來自中國上海交通大學(xué)的Xi Zhang已經(jīng)準(zhǔn)備開始反駁那些反對(duì)者的觀點(diǎn)。Wu說：“我們對(duì)這個(gè)結(jié)果感到很吃驚。”

研究人員充分開發(fā)機(jī)器的學(xué)習(xí)能力，要求面部識(shí)別軟件判斷身份信息系統(tǒng)中的照片的主人是否是罪犯，最后得到一個(gè)正確的反饋。機(jī)器在這個(gè)過程中將學(xué)會(huì)如何分辨，要求最終結(jié)果的準(zhǔn)確率到達(dá)90%。

然而其他的面部識(shí)別專家對(duì)他們的開發(fā)方法提出了質(zhì)疑。其中有一個(gè)問題：罪犯的圖像來自于中國身份證照片的數(shù)據(jù)庫，而無犯罪人員的照片則來自于中國公民在網(wǎng)絡(luò)上發(fā)布的照片，這就意味著這套系統(tǒng)識(shí)別的是照片的不同來源而不是人臉。

Wu和Zhang試圖將照片標(biāo)準(zhǔn)化，例如調(diào)整它們的大小和亮度。但來自麻省理工學(xué)院的Jonathan Frankle認(rèn)為這還不夠，他說：“圖片來源不同是這套系統(tǒng)的根本缺陷。”

來自谷歌的研究人員Francois Chollet稱，這個(gè)問題不足以引起爭(zhēng)議，但整個(gè)程序需要好好的開發(fā)。他說：“這不是道德問題影響技術(shù)的辯題。”

來自英國法爾茅斯大學(xué)的Mike Cook說，這種研究似乎讓機(jī)器學(xué)習(xí)變成“21世紀(jì)骨相學(xué)”——通過人的頭骨推斷出一個(gè)人的特征?？此乒挠?jì)算機(jī)程序給出了不準(zhǔn)確或者有爭(zhēng)議的結(jié)果。

相同的偏差

事實(shí)上，這些系統(tǒng)都不客觀，往往和人類一樣帶有偏見。Cook說：“它們是用我們相信的結(jié)果而制造出來的工具。”

這并不是說電腦無法準(zhǔn)確完成人臉識(shí)別，它們有時(shí)完成的比人類還出色。人臉識(shí)別軟件已經(jīng)可以輕松的識(shí)別出人鼻子的形狀并且判斷出他是否在笑。來自紐約羅切斯特大學(xué)的研究人員稱，他們已經(jīng)開發(fā)出一種算法能夠識(shí)別出中國人臉、韓國人臉和日本人臉，準(zhǔn)確率達(dá)到75%。

聽起來似乎挺科學(xué)，但應(yīng)用在實(shí)際情況中時(shí)常常會(huì)出現(xiàn)道德問題。識(shí)別出人的種族，這雖然可以有其他更好的用處，但可能被用來進(jìn)行人種歧視。

去年微軟開發(fā)了一款軟件，通過照片來判斷人的年齡。他們本來的目的是想開發(fā)出一款有趣的應(yīng)用，但之后一些英國報(bào)紙?jiān)噲D用這款軟件將本該給予兒童的優(yōu)惠給了成年人，這迫使微軟不得不做出解釋：這款軟件無法對(duì)年齡做出準(zhǔn)確的評(píng)估。

在遇到比鼻子形狀和年齡更加復(fù)雜和抽象的問題時(shí)，了解技術(shù)的極限便成了十分重要的事。來自普林斯頓大學(xué)的Alexander Todorov說，你無法從一個(gè)人的照片中了解他的個(gè)性和行為習(xí)慣，但卻超級(jí)容易看出一個(gè)人因?yàn)槿狈λ呱n白的臉色和下垂的眼袋，他說這可以用來防止人們?cè)趶氖乱恍┬枰⒁饬Ω叨燃械娜蝿?wù)例如操作危險(xiǎn)的機(jī)器，但用它來推測(cè)人的外貌和個(gè)性，這是錯(cuò)誤的。

研究人員常常無法控制他們的研究成果如何被人們使用。像Wu和Zhang一樣將自己的成果公開后這就意味著任何人都可以檢測(cè)它的正確性。Frankle說：“讓我感到更可怕的事情是，如果一家私人公司開發(fā)出了這樣一套系統(tǒng)，并將它賣給了警察局，那么誰也不知道將會(huì)發(fā)生什么。”

今年早些時(shí)候，F(xiàn)rankle和他的同事發(fā)現(xiàn)，美國警察部門使用的面部識(shí)別軟件的準(zhǔn)確率還算高。但隨著隨著該技術(shù)的使用范圍更加廣泛，權(quán)衡其是否符合道德規(guī)范就更加緊迫了。

Chollet說，計(jì)算機(jī)科學(xué)在人們的生活在扮演著越來越重要的角色，但卻沒有相應(yīng)的道德標(biāo)準(zhǔn)來規(guī)范它，這是我們必須要解決的事。