人工智能所謂的“數(shù)據(jù)優(yōu)勢(shì)”,是否以犧牲用戶隱私安全為代價(jià)?

2015年，清華大學(xué)在高校信息化建設(shè)中首次引入人臉識(shí)別技術(shù)，通過(guò)識(shí)別系統(tǒng)和智能設(shè)備，實(shí)現(xiàn)學(xué)生自行注冊(cè)、自行辦理火車票優(yōu)惠卡充值、自行打印成績(jī)單、自行辦理在讀證明等各項(xiàng)業(yè)務(wù);2018年，全國(guó)各地初中以“提升校園安全”為由，在校園門口安裝人臉識(shí)別考勤系統(tǒng)，以南京中國(guó)藥科大學(xué)為例，其在校門、圖書館和宿舍都安裝了人臉識(shí)別門禁。

當(dāng)人工智能等前沿技術(shù)逐漸應(yīng)用于現(xiàn)實(shí)場(chǎng)景，投資人與創(chuàng)始人口中所謂的“數(shù)據(jù)優(yōu)勢(shì)”是否以犧牲用戶隱私安全為代價(jià)?

近日，關(guān)于人臉識(shí)別技術(shù)與個(gè)人數(shù)據(jù)安全之間的矛盾、學(xué)生個(gè)人到底有無(wú)隱私等討論見(jiàn)諸網(wǎng)端。一張帶有“MEGVII曠視”圖標(biāo)、面向校園學(xué)生學(xué)習(xí)狀態(tài)的視頻監(jiān)控圖像也在網(wǎng)絡(luò)上引發(fā)熱議，圖片顯示，該技術(shù)針對(duì)兩名教室中的女生面部特征進(jìn)行分析，分別顯示出各自相應(yīng)的課堂行為數(shù)據(jù)，如趴桌子、玩手機(jī)、睡覺(jué)、聽(tīng)講、閱讀、舉手等。

AI技術(shù)是把雙刃劍

針對(duì)網(wǎng)絡(luò)端對(duì)曠視監(jiān)控教室內(nèi)學(xué)生一舉一動(dòng)的批評(píng)聲，曠視方面對(duì)第一財(cái)經(jīng)記者回應(yīng)稱，近日網(wǎng)絡(luò)上出現(xiàn)的一幅課堂行為分析圖片為技術(shù)場(chǎng)景化概念演示，曠視的智慧學(xué)校解決方案可以協(xié)助學(xué)校管理人員提升效率并保障學(xué)生安全，主要用于智能校門、教室門及宿舍的出入，方便學(xué)生安全出入校園。

知乎上關(guān)于“如何看待曠視科技新產(chǎn)品監(jiān)視學(xué)生上課”的話題下，一位ID為李小粥、職業(yè)為高級(jí)產(chǎn)品經(jīng)理的用戶發(fā)表觀點(diǎn)稱：“如果可以監(jiān)視學(xué)生甚至量化學(xué)生的行為數(shù)據(jù)，那我們是否可以去監(jiān)控每個(gè)教師、輔導(dǎo)員、校長(zhǎng)的日常工作?如果今天的技術(shù)可以采集學(xué)生微表情，那未來(lái)是否會(huì)發(fā)展到采集腦電波、人體磁場(chǎng)、熱力圖、情緒等更加私密的生理特征?我們又是否愿意接受這樣的監(jiān)控?”

企業(yè)方應(yīng)主動(dòng)保護(hù)數(shù)據(jù)安全

實(shí)際上，人臉識(shí)別技術(shù)此前早已步入校園與學(xué)生生活。

此次曠視之所以引發(fā)爭(zhēng)議，很大程度在于其將原本簡(jiǎn)單的簽到、注冊(cè)、買票等業(yè)務(wù)升級(jí)到對(duì)微表情的分析，其官方對(duì)該技術(shù)介紹稱：“在課堂教學(xué)評(píng)價(jià)系統(tǒng)中，曠視科技將自主研發(fā)的人臉識(shí)別、行為識(shí)別、表情識(shí)別等技術(shù)，集成在考勤及行為分析攝像機(jī)MegEye-C3V-920和行為分析服務(wù)器中。通過(guò)對(duì)課堂視頻數(shù)據(jù)進(jìn)行實(shí)時(shí)的結(jié)構(gòu)化分析，反饋學(xué)生行為、表情、專注度、前排上座率等多維度課堂數(shù)據(jù)，輔助教學(xué)評(píng)估評(píng)價(jià)。”

國(guó)外對(duì)人臉識(shí)別技術(shù)的落地應(yīng)用采取了更為徹底的管制。

今年4月5日，當(dāng)舊金山監(jiān)事會(huì)(TheSanFranciscoBoardofSupervisors)通過(guò)一項(xiàng)法案，禁止政府部門(受聯(lián)邦政府管轄的機(jī)場(chǎng)、港口等出入境場(chǎng)所不在此例)使用面部識(shí)別技術(shù)，并規(guī)定城市機(jī)構(gòu)在購(gòu)買其他類型的監(jiān)控技術(shù)之前獲得城市議會(huì)批準(zhǔn)。而近期，歐盟(EU)的一項(xiàng)數(shù)據(jù)保護(hù)法規(guī)首次在瑞典實(shí)施，其規(guī)定，一項(xiàng)涉及人臉識(shí)別軟件的學(xué)校實(shí)驗(yàn)被認(rèn)為是非法的，同時(shí)引發(fā)教育機(jī)構(gòu)中是否應(yīng)使用人工智能技術(shù)的討論。此外，歐盟在2018年出臺(tái)的GDPR規(guī)定稱，公司在收集用戶包括面部等生物特征數(shù)據(jù)前必須經(jīng)得個(gè)人同意，如有違反，企業(yè)可以被罰款金額達(dá)其全球收入的4%。

云測(cè)數(shù)據(jù)總經(jīng)理賈宇航對(duì)第一財(cái)經(jīng)記者表示，在人工智能高速發(fā)展過(guò)程中，技術(shù)與個(gè)人隱私之間的矛盾確實(shí)是“不可調(diào)和”的，作為企業(yè)主體，更該主動(dòng)進(jìn)行用戶數(shù)據(jù)安全的保護(hù)。他以谷歌為例稱，2018年，谷歌核心戰(zhàn)略以云計(jì)算與人工智能為核心，但步入2019年，在世界范圍內(nèi)多次爆發(fā)用戶數(shù)據(jù)安全事件后，谷歌將戰(zhàn)略重心轉(zhuǎn)移至注重用戶隱私安全的邊緣計(jì)算領(lǐng)域，很多用戶數(shù)據(jù)存儲(chǔ)于手機(jī)端，不會(huì)回傳至云端。從該案例也可以看出公司主體主動(dòng)對(duì)數(shù)據(jù)安全方面的考慮。

該疑問(wèn)提出的考量，來(lái)自于對(duì)人工智能技術(shù)采集個(gè)人數(shù)據(jù)的擔(dān)憂，一位不愿透露姓名的人工智能領(lǐng)域研究人士對(duì)第一財(cái)經(jīng)記者表示，曠視科技對(duì)學(xué)生人臉的監(jiān)控，以及ZAO事件，折射出人工智能技術(shù)本身的雙刃劍特性——一方面代替重復(fù)性勞動(dòng)，但同時(shí)帶來(lái)隨時(shí)監(jiān)測(cè)個(gè)人生活的“驚悚感”。他稱，一般來(lái)講業(yè)內(nèi)會(huì)將現(xiàn)實(shí)生活場(chǎng)景的可視化視為好事，但前提是需要界定人工智能時(shí)代，什么數(shù)據(jù)是隱私?什么數(shù)據(jù)可開放?