2019 年 6 月 12 日，，舊金山宣布了一個(gè)“減少偏見的工具”，計(jì)劃于 7 月 1 日開始實(shí)施，這個(gè)工具使用基本的人工智能技術(shù)，能夠自動(dòng)修改警方報(bào)告中能夠識(shí)別出嫌疑人種族的信息。
之所以設(shè)計(jì)出這個(gè)工具，是為了防止檢察官在決定某人是否被控犯罪時(shí)受到種族偏見的影響。
舊金山地區(qū)檢察官 George Gascón 在新聞發(fā)布會(huì)上表示，在美國(guó)被監(jiān)禁的人中，有色人種是不成比例的。此外，他還指出，當(dāng)看到像 Hernandez 這樣的名字時(shí)，檢察官立即就會(huì)知道這個(gè)人是拉美裔，而這可能會(huì)影響結(jié)果。
此前，舊金山就已致力于不讓檢察官看到報(bào)告中與種族相關(guān)的信息，但只是移除報(bào)告的前兩頁內(nèi)容，剩下的部分檢察官還是會(huì)看到，因此才想利用機(jī)器學(xué)習(xí)來減少偏見。
據(jù)舊金山地區(qū)檢察官辦公室的說法，該工具不僅可以刪除種族描述，還可以刪除眼睛顏色和頭發(fā)顏色等描述。那些可能有意或無意地向檢察官透露嫌疑人有某種種族背景的人名、地點(diǎn)和社區(qū)也會(huì)被刪除。不僅如此，這個(gè)工具還會(huì)刪除警察的詳細(xì)信息，包括他們的警徽號(hào)碼，以防檢察官碰巧認(rèn)識(shí)，可能對(duì)他們的報(bào)告有偏見。
另外，值得一提的是，地方檢察官辦公室稱這是“全國(guó)第一次”使用這項(xiàng)技術(shù)，之前沒有任何機(jī)構(gòu)使用人工智能來做這件事。
這個(gè)將被美國(guó)首次應(yīng)用的工具是 Alex Chohlas-Wood 和斯坦福計(jì)算政策實(shí)驗(yàn)室的團(tuán)隊(duì)開發(fā)的。Wood 說，這個(gè)新工具基本上只是一個(gè)輕量級(jí)的 web 應(yīng)用程序，它使用幾種算法來自動(dòng)編輯警察報(bào)告，使用計(jì)算機(jī)視覺識(shí)別報(bào)告中的單詞，并將其替換為通用版本，如位置、一號(hào)警官等。
此外，Wood 還表示這個(gè)工具已經(jīng)進(jìn)入了最后階段，是由舊金山科技公司免費(fèi)開發(fā)的，將在幾周內(nèi)開放源代碼，供其他公司采用。
目前，由于沒有看到這個(gè)系統(tǒng)在警察報(bào)告上運(yùn)行，所以還不清楚效果如何。不過，當(dāng)記者詢問如果男扮女裝，或者女扮男裝，這個(gè)工具是否還能夠修改這些信息時(shí)，Gascón 只是表示今天是個(gè)起點(diǎn)，這個(gè)工具會(huì)不斷發(fā)展的。
另外，這個(gè)工具也只是用于逮捕后的第一次審查，檢察官的最終決定仍基于完整的未修訂的報(bào)告。并且，如果最初的指控證據(jù)是視頻資料，還是會(huì)很明顯地揭示出嫌疑人的種族。
盡管這個(gè)工具是否能產(chǎn)生幫助尚未可知，但值得注意的是，在上個(gè)月，舊金山才剛剛發(fā)出 AI 人臉識(shí)別的禁令（可參見雷鋒網(wǎng)此前報(bào)道），是全球首個(gè)發(fā)布此項(xiàng)禁令的城市；而發(fā)出禁令的原因之一，就是人臉識(shí)別技術(shù)存在種族偏見。
說到底，AI 是具有偏見還是能夠消除偏見，最終還是取決于 AI 技術(shù)，而就目前 AI 頻繁處于爭(zhēng)議中的情況看來，AI 技術(shù)的發(fā)展還有很長(zhǎng)的路要走。
下載文檔
