微軟限制出售人臉識(shí)別AI軟件，人工智能隱私需保護(hù)

人工智能的倫理學(xué)問題一直是學(xué)界和政界關(guān)注的重點(diǎn)之一，對(duì)于所有人來說，人工智能帶來的法律和道德問題都是一個(gè)全新的課題，而對(duì)這一課題的研究結(jié)果，不但將影響未來人工智能的研究，同樣也對(duì)AI的商業(yè)化落地有著極高的參考意義。

如何讓科學(xué)遠(yuǎn)離罪惡？我們都在摸著石頭過河。

在一篇關(guān)于人臉識(shí)別的潛在用途和濫用的博客文章中，微軟總裁 Bradford L． Smith 將該技術(shù)與受到全面監(jiān)管的藥品和汽車等產(chǎn)品進(jìn)行了比較，并敦促美國國會(huì)展開研究并監(jiān)督人臉識(shí)別技術(shù)的使用。

此前，眾多學(xué)者與開發(fā)者們簽署了一份公開信，其中要求科技公司停止向政府和執(zhí)法機(jī)構(gòu)提供人臉識(shí)別技術(shù)，停止當(dāng)前的數(shù)據(jù)分析和 AI 服務(wù)合同，并考慮制定道德準(zhǔn)則，禁止威脅隱私、公民和人權(quán)的技術(shù)的武器化與軍事化，建立透明和有問責(zé)機(jī)制的制度，以確保上述準(zhǔn)則的實(shí)行。

近期微軟因一份涉及人臉識(shí)別軟件的政府合同而受到廣泛抨擊，微軟公司表示，它將更加謹(jǐn)慎地考慮這方面的合同，并敦促立法者規(guī)范此類人工智能技術(shù)的使用，以防止濫用。

作為人臉識(shí)別軟件主要制造商之一，微軟表示它將采取措施降低這些系統(tǒng)產(chǎn)生偏差的可能性；制定新的公共原則來管理技術(shù)；并會(huì)更謹(jǐn)慎地出售其在該領(lǐng)域的軟件和專業(yè)知識(shí)。微軟指出，雖然技術(shù)行業(yè)需要對(duì)其產(chǎn)品負(fù)責(zé)，但是政府也要采取行動(dòng)。

微軟總裁兼首席法務(wù)官 Brad Smith 周五在其博客中寫道：“政府管理技術(shù)使用的唯一有效方法是它主動(dòng)采取行動(dòng)。而且如果人們擔(dān)心一項(xiàng)技術(shù)在全社會(huì)被廣泛使用，那么規(guī)范該項(xiàng)技術(shù)廣泛應(yīng)用的唯一措施應(yīng)由政府出面。實(shí)際上，我們認(rèn)為這就是現(xiàn)在所需要的—一項(xiàng)首先由民主、共和兩黨代表和專家委員會(huì)通報(bào)的政府倡議，旨在規(guī)范人臉識(shí)別技術(shù)的正確使用。”

微軟、谷歌、亞馬遜等公司因向美國政府和當(dāng)?shù)鼐匠鍪?AI 軟件，尤其是人臉識(shí)別軟件而受到民間自由團(tuán)體及這些公司內(nèi)部雇員的抨擊。對(duì)于科技公司來說，這種要求對(duì)自己產(chǎn)品進(jìn)行更嚴(yán)厲監(jiān)管的行為并不常見，但是 Smith 與微軟人工智能及微軟研究事業(yè)部負(fù)責(zé)人沈向洋今年早些時(shí)候就寫了一篇文章，稱 AI 的發(fā)展需要新的法律來規(guī)范。

Smith 寫道，“雖然我們明白現(xiàn)在很多人要求科技公司來做這些，我們也明確意識(shí)到自己需要履責(zé)，但我們認(rèn)為，這不足以代替公眾及其代表的決策。”

人臉識(shí)別系統(tǒng)通常具備嚴(yán)重的缺陷，尤其是難以識(shí)別和區(qū)分膚色較深的人。微軟研究者 TImnit Gebru 和 MIT 媒體實(shí)驗(yàn)室 Joy Buolamwini 二月發(fā)表的一篇論文表明人臉識(shí)別系統(tǒng)對(duì)膚色較深的女性的分類誤差高達(dá) 35％。微軟的研究機(jī)構(gòu)致力于修正研究者在其人臉識(shí)別軟件中發(fā)現(xiàn)的問題。

隨著技術(shù)的迅速發(fā)展，微軟提倡適應(yīng)云計(jì)算和人工智能等新興領(lǐng)域的新法律。微軟就隱私問題與美國政府展開抗?fàn)帲Q美國政府在云計(jì)算方面使用了老舊的通信法，微軟支持折中的法案，用于直接解決云時(shí)代的數(shù)據(jù)隱私問題和搜索問題。

微軟應(yīng)對(duì)民眾抗議的方式與亞馬遜略有不同。在六月回應(yīng)抗議聲的一篇博客中，亞馬遜的 AI 負(fù)責(zé)人 Matt Wood 寫道，“新技術(shù)能力一直都存在風(fēng)險(xiǎn)，以后也會(huì)如此。每個(gè)選擇使用技術(shù)的組織必須采取負(fù)責(zé)任的行動(dòng)，否則就得面臨法律懲罰和公眾譴責(zé)的風(fēng)險(xiǎn)。AWS 會(huì)認(rèn)真對(duì)待自己的責(zé)任。但我們認(rèn)為，不能因?yàn)槟承┘夹g(shù)未來可能被人濫用就禁止這些技術(shù)的發(fā)展，這樣是不對(duì)的。”

Smith 寫道，政府規(guī)范應(yīng)該考慮的問題是警察使用人臉識(shí)別軟件是否需要人類監(jiān)督和控制，零售商是否必須張貼顯眼的標(biāo)識(shí)（如果他們?cè)诠矃^(qū)域使用了此類軟件）。其它需要考慮的范圍包括是否要求企業(yè)在收集個(gè)人圖像之前先征求用戶同意，以及認(rèn)為自己被人臉識(shí)別系統(tǒng)錯(cuò)誤識(shí)別的人享有哪些法律權(quán)利。

紐約大學(xué)法學(xué)教授 Barry Friedman 稱，執(zhí)法機(jī)關(guān)使用人臉識(shí)別技術(shù)卻欠缺規(guī)范，這引起了人們對(duì)種族差異和隱私問題的擔(dān)憂。他同時(shí)也負(fù)責(zé) The Policing Project，該計(jì)劃致力于為執(zhí)法設(shè)定規(guī)范和準(zhǔn)則。

最高法院規(guī)定警察在沒有許可證或正當(dāng)理由的情況下不得長(zhǎng)期獲取手機(jī)數(shù)據(jù)，類似的限制也應(yīng)該應(yīng)用到警察對(duì)人臉識(shí)別技術(shù)的使用上，Barry Friedman 稱。

“該技術(shù)正在飛快地追趕我們，”Friedman 說道，“如果我們不走到前頭，一切將覆水難收。”

微軟在上個(gè)月曾因民眾抗議 AI 技術(shù)被用于在墨西哥邊境分離非法入境者及其子女后，短暫地在網(wǎng)站上刪除了其與美國移民和海關(guān)執(zhí)法局簽訂合同的文章。但隨后，相關(guān)博客又被恢復(fù)。

雖然微軟隨后宣稱公司與移民局簽訂的合同主要涉及在云端處理舊電子郵件和員工協(xié)作系統(tǒng)，但其博文明確提到了使用人臉識(shí)別工具的可能性。隨后，數(shù)百名微軟員工簽署了一份請(qǐng)?jiān)笗蠊就Ｖ瓜蛘鍪巯嚓P(guān)服務(wù)。針對(duì)非法移民的 AI 項(xiàng)目甚至影響到了微軟剛剛收購的 GitHub，6 月中旬起，數(shù)百名開源社區(qū)貢獻(xiàn)者在網(wǎng)上簽署了一份公開信，同樣要求微軟解除與政府部門的 AI 合同，并號(hào)召抵制 GitHub。

人臉識(shí)別是目前 AI 領(lǐng)域里應(yīng)用最廣泛的技術(shù)之一，但在推廣的過程中也引起了越來越多的爭(zhēng)議。今年 4 月，個(gè)人隱私保護(hù)組織向美國聯(lián)邦貿(mào)易委員會(huì)提起訴訟，稱 Facebook 在未獲得用戶適當(dāng)許可的情況下開啟了新的人臉識(shí)別服務(wù)。Facebook 否認(rèn)了這些團(tuán)體的指控。

而今年 5 月，亞馬遜因?yàn)閷?RekogniTIon AI 服務(wù)出售給當(dāng)?shù)鼐蕉馉?zhēng)議，美國公民自由聯(lián)盟正要求該公司停止允許政府使用這項(xiàng)技術(shù)。

值得一提的是，在歐盟，有關(guān)人工智能侵犯隱私的一些問題已經(jīng)得到了解決。一項(xiàng)嚴(yán)格的新數(shù)據(jù)保護(hù)法已禁止公司在未獲得用戶特定同意的情況下收集人臉識(shí)別所需的生物特征數(shù)據(jù)。