歐盟AI監(jiān)管再收緊，公共場所人臉識別或全面被禁

本文來源：新智元

近日，歐洲議會投票通過決議，呼吁全面禁止基于AI生物識別技術(shù)的大規(guī)模監(jiān)控。

此次決議呼吁全面禁止在公共場所進(jìn)行自動面部識別，并對警方使用AI進(jìn)行預(yù)測性警務(wù)活動實(shí)施嚴(yán)格限制措施。歐洲議會以 377 票贊成、248 票反對、62 票棄權(quán)的結(jié)果通過了決議。

決議還呼吁禁止使用私人面部識別數(shù)據(jù)庫，并表示基于行為數(shù)據(jù)的預(yù)測性警務(wù)活動也應(yīng)該被取締。

此外，決議還希望禁止試圖根據(jù)公民的行為或個性，對公民的信用進(jìn)行評分的社會評分系統(tǒng)。

對于遠(yuǎn)程生物特征監(jiān)測的AI技術(shù)，委員會在報(bào)告中呼吁：?

「……通過立法和非立法手段，必要時(shí)通過侵權(quán)訴訟，禁止出于執(zhí)法目的生物識別數(shù)據(jù)處理，包括通過面部圖像識別，在公共場所進(jìn)行大規(guī)模監(jiān)視。」

歐洲議會成員Petar Vitanov在決議通過后的聲明中表示：?

「人類的基本權(quán)利是無條件的。我們有史以來第一次呼吁暫停部署用于執(zhí)法的面部識別系統(tǒng)，因?yàn)樵摷夹g(shù)已被證明是無效的，并且經(jīng)常導(dǎo)致歧視性結(jié)果。這份報(bào)告對所有歐洲公民來說都是一個巨大的勝利?！?/p>

從分級到全面禁止，歐盟「緊箍咒」越來越緊

實(shí)際上，早在今年4 月，歐盟提出防范和監(jiān)管AI技術(shù)高風(fēng)險(xiǎn)應(yīng)用的草案，名為「人工智能行業(yè)監(jiān)管草案」，其內(nèi)容就包括「原則上禁止」在公共場合使用遠(yuǎn)程生物識別監(jiān)控技術(shù)。

這個草案實(shí)際上為人工智能引入一個全面的監(jiān)管框架。其中一項(xiàng)措施是禁止在公共場所進(jìn)行遠(yuǎn)程生物識別（例如面部識別），除非它被用于處理重大犯罪，包括恐怖主義和綁架。

該案將人工智能應(yīng)用場景分為「低、有限、高、不可接受」四個風(fēng)險(xiǎn)等級，等級越高的應(yīng)用場景受到的限制越嚴(yán)格。

關(guān)于人工智能最受爭議的細(xì)分領(lǐng)域——人臉識別，以及所有遠(yuǎn)距離生物識別系統(tǒng)都被認(rèn)定為高風(fēng)險(xiǎn)，并禁止執(zhí)法部門在公共場合使用這一技術(shù)，除非發(fā)生兒童失蹤、恐怖襲擊、甄別犯罪分子等情況，上述情況也需得到司法部門授權(quán)。

聊天機(jī)器人等應(yīng)用屬于有限風(fēng)險(xiǎn)。這些應(yīng)用需要讓用戶知曉自己在與機(jī)器互動，并有權(quán)決定是否繼續(xù)或退出該進(jìn)程。

基于人工智能的電子游戲、垃圾郵件識別屬于低風(fēng)險(xiǎn)，低風(fēng)險(xiǎn)應(yīng)用占目前歐盟人工智能應(yīng)用的絕大部分。對上述應(yīng)用不做約束。

早在2016年，歐盟的《通用數(shù)據(jù)保護(hù)條例》（GDPR）已對此有所限制，GDPR對生物數(shù)據(jù)的處理，遵循「原則禁止、特殊例外」的原則。數(shù)據(jù)控制者可援引「數(shù)據(jù)主體的同意」作為個人生物數(shù)據(jù)處理的例外，但該同意必須是「自由給予、明確、具體、不含混」的。

短短數(shù)年，歐盟對AI技術(shù)應(yīng)用，尤其是大規(guī)模人臉識別技術(shù)，就經(jīng)歷了從明確分級、到嚴(yán)格限制，再到全面禁止的過程。

近日通過的這個決議無疑表明，對AI技術(shù)，尤其是人臉識別技術(shù)的更嚴(yán)格的監(jiān)管框架已經(jīng)建立。

無論AI如何建議，最終必須由人來拍板

此次決議還針對AI算法強(qiáng)調(diào)了人類監(jiān)督，以防止人工智能的歧視——尤其是在執(zhí)法和過境檢查方面的應(yīng)用。

歐洲議會同意，無論AI輔助系統(tǒng)的建議如何，最終的決定必須始終由人類做出，并表示由人工智能驅(qū)動的系統(tǒng)監(jiān)控的對象必須能夠獲得補(bǔ)救。

歐洲議會議員指出，這類系統(tǒng)已被證明會錯誤識別少數(shù)族裔群體、LGBT人群、老年人和女性。算法應(yīng)該透明、可追溯并有充分的記錄。公共部門盡可能使用開源軟件，以提高透明度。

歐洲議會議員還針對一項(xiàng)有爭議的歐盟資助的研究項(xiàng)目——基于面部表情分析結(jié)果的「智能測謊儀」項(xiàng)目iBorderCtrl 應(yīng)該停止，該項(xiàng)目此前被用于自動化邊境管理系統(tǒng)。

決議還呼吁禁止人工智能協(xié)助司法決策，這可能會鞏固和擴(kuò)大刑事司法系統(tǒng)中的系統(tǒng)性偏見。

怎么管好人臉識別？國內(nèi)外都難辦

實(shí)際上，這并不是人臉識別技術(shù)首次被禁了。

2019年，美國有9個州都頒布了關(guān)于禁用人臉識別技術(shù)的法案，嚴(yán)禁警察、政府部門以及在公共場所使用人臉識別技術(shù)。舊金山成為美國第一個禁止警察和其他政府官員使用人臉識別的大城市。在接下來的幾個月內(nèi)，奧克蘭和伯克利等地也通過了類似的法律。

許多技術(shù)公司，如IBM、亞馬遜、谷歌等，此前也曾暫?；蚍艞壛巳四樧R別相關(guān)業(yè)務(wù)。

類似問題在國內(nèi)也同樣存在。今年央視315晚會就曾曝光，科勒衛(wèi)浴等廠商在旗下衛(wèi)浴門店安裝人臉識別攝像頭，存在收集人臉數(shù)據(jù)的問題。嚴(yán)重侵犯個人隱私，給個人數(shù)據(jù)安全帶來重大威脅。

國家市場監(jiān)管總局發(fā)布的《個人信息安全規(guī)范》明確規(guī)定，人臉信息屬于生物識別信息，也屬于個人敏感信息，收集個人信息時(shí)應(yīng)獲得個人信息主體的授權(quán)同意。

今年1月1日正式實(shí)施的《民法典》中規(guī)定，處理個人信息，應(yīng)征得該自然人或者其監(jiān)護(hù)人同意。

4月23日，國家標(biāo)準(zhǔn)化管理委員會發(fā)布《信息安全技術(shù)人臉識別數(shù)據(jù)安全要求》征求意見稿，對人臉識別技術(shù)應(yīng)用場景、安全要求、數(shù)據(jù)采集和處理等環(huán)節(jié)制定了標(biāo)準(zhǔn)化規(guī)范，彌補(bǔ)了相關(guān)法規(guī)和標(biāo)準(zhǔn)的缺失。

面對AI技術(shù)的日新月異，未來如何在充分利用人臉識別技術(shù)的同時(shí)，保障數(shù)據(jù)安全和個人隱私，依然有待探索。

~END~