紐約州的學(xué)校內(nèi)不得使用生物識(shí)別技術(shù)

前段時(shí)間，美國(guó)紐約州通過(guò)了一項(xiàng)針對(duì)人臉識(shí)別等生物識(shí)別技術(shù)的禁令。該禁令要求，在2022年前，美國(guó)紐約州的學(xué)校不得使用人臉識(shí)別等生物識(shí)別技術(shù)。

這則禁令的背景，是去年發(fā)生的一場(chǎng)有關(guān)校園應(yīng)用的爭(zhēng)議。

2019年5月，紐約州西部城市洛克波特市開(kāi)始在全市校園部署人臉識(shí)別設(shè)備，主要目的是增強(qiáng)學(xué)校的安全性。洛克波特市學(xué)區(qū)負(fù)責(zé)人米歇爾·布拉德利(Michelle Bradley)在接受外媒采訪時(shí)說(shuō)，“這是使學(xué)生、員工和訪客更加安全的又一措施”。

洛克波特市官方信息顯示，人臉識(shí)別系統(tǒng)將識(shí)別“學(xué)校不允許出現(xiàn)的人員”，并在識(shí)別到異常情況時(shí)發(fā)出警報(bào)提醒。系統(tǒng)重點(diǎn)識(shí)別的人員包括二級(jí)或三級(jí)性犯罪者、被停職的學(xué)校員工、法院判決未經(jīng)批準(zhǔn)禁止進(jìn)入學(xué)校的人員、執(zhí)法部門(mén)信息顯示會(huì)構(gòu)成威脅的人員，等等。

由于隱私等問(wèn)題的存在，人臉識(shí)別應(yīng)用在美國(guó)向來(lái)爭(zhēng)議頗多。因此，洛克波特市也在紐約州教育廳等部門(mén)的監(jiān)督下反復(fù)修改了系統(tǒng)設(shè)置，最終決定只讓系統(tǒng)記錄人員比對(duì)的情況，不收集或存儲(chǔ)任何個(gè)人信息，學(xué)生的照片等個(gè)人信息也不會(huì)被添加到系統(tǒng)中。根據(jù)當(dāng)?shù)胤梢?，監(jiān)控視頻保存60天后將從服務(wù)器上刪除。

2020年1月，這一系統(tǒng)在洛克波特市正式投入運(yùn)營(yíng)。然而，還是有一些民間團(tuán)體認(rèn)為人臉識(shí)別系統(tǒng)太有侵入性，不該在學(xué)校這樣的場(chǎng)所部署。萬(wàn)一系統(tǒng)對(duì)學(xué)生出現(xiàn)了誤報(bào)，更是會(huì)給學(xué)生帶來(lái)種種傷害，比如影響學(xué)生上課、給學(xué)生扣上莫須有的犯罪記錄。

今年6月，紐約公民自由聯(lián)盟提起訴訟，要求洛克波特市停用系統(tǒng)。

這一起訴得到了當(dāng)?shù)夭糠止賳T的支持。當(dāng)?shù)貢r(shí)間6月23日，紐約州議會(huì)眾議員莫妮卡·華萊士(Monica Wallace)和參議員布萊恩·卡瓦納(Brian Kavanagh)發(fā)表聯(lián)合聲明，重申了對(duì)隱私問(wèn)題的擔(dān)憂：“我們擔(dān)心該技術(shù)的使用可能侵犯學(xué)生、教職員工和訪客的隱私權(quán)及其他公民權(quán)利。這是一種無(wú)效的維護(hù)校園安全的形式，并且可能無(wú)法安全地存儲(chǔ)學(xué)生數(shù)據(jù)。 ”

此前，美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院曾發(fā)現(xiàn)，美國(guó)目前主要的人臉識(shí)別算法在識(shí)別非裔、亞裔美國(guó)人時(shí)，錯(cuò)誤率遠(yuǎn)超白人。華萊士和卡瓦納據(jù)此指出，人臉識(shí)別的準(zhǔn)確性也令人擔(dān)心。在年輕的學(xué)生因?yàn)檫@種侵入性的監(jiān)控形式受到傷害之前，紐約州教育廳應(yīng)該仔細(xì)考慮相關(guān)問(wèn)題，并就人臉識(shí)別應(yīng)用制定詳細(xì)的指導(dǎo)規(guī)則。

紐約州參眾兩院剛剛投票通過(guò)的新禁令，正是由華萊士提出。接下來(lái)，禁令將被提交給紐約州州長(zhǎng)。如果紐約州州長(zhǎng)也簽字通過(guò)，禁令就將成為正式的法律。

據(jù)南都·AI前哨站梳理，去年以來(lái)，美國(guó)的舊金山、薩默維爾、奧克蘭、波士頓等多個(gè)城市通過(guò)了人臉識(shí)別禁令，但這些城市主要是禁止政府部門(mén)使用人臉識(shí)別技術(shù)。如果禁令成為正式法律，那它也將是全美國(guó)首個(gè)專(zhuān)門(mén)針對(duì)學(xué)校人臉識(shí)別應(yīng)用的法律。

從歐美此前的執(zhí)法案例看，涉及到學(xué)校和未成年人個(gè)人信息的科技應(yīng)用往往受到會(huì)更多的限制。例如在2019年，瑞典一所高中使用人臉識(shí)別系統(tǒng)來(lái)記錄學(xué)生的出勤率，瑞典數(shù)據(jù)監(jiān)管機(jī)構(gòu)調(diào)查認(rèn)為此舉侵犯學(xué)生的隱私，便依據(jù)歐盟《通用數(shù)據(jù)保護(hù)條例》(GDPR)處罰了該高中20萬(wàn)瑞典克朗(約合人民幣14.8萬(wàn)元)。