AI換臉視頻、校園門禁系統(tǒng)： “我的臉到底屬于誰”?

眾所周知，人臉識(shí)別廣泛應(yīng)用，有人感嘆科技的進(jìn)步，也有人質(zhì)疑“我的臉到底屬于誰”?近期，中國人臉識(shí)別第一案備受關(guān)注。因杭州野生動(dòng)物世界啟用人臉識(shí)別入園，該園年卡用戶認(rèn)為其強(qiáng)制收集個(gè)人面部特征，違反《消費(fèi)者權(quán)益保護(hù)法》而將杭州野生動(dòng)物世界訴至法院。

人臉，承載了重要的身份信息，而在技術(shù)面前，人臉正成為辨認(rèn)個(gè)體身份的“重要數(shù)據(jù)”。從上班打卡到消費(fèi)支付，從安保檢查到酒店入住，從應(yīng)用軟件到視頻娛樂，人臉識(shí)別的技術(shù)正應(yīng)用到工作、生活的各個(gè)領(lǐng)域。事實(shí)上，人臉識(shí)別帶來的爭議遠(yuǎn)不止此，從AI換臉淫穢視頻到ZAO App的用戶協(xié)議爭議，再到人們對人臉識(shí)別進(jìn)校園、惡搞視頻泛濫的迷惑，這些都從不同維度反映著民眾對人臉識(shí)別技術(shù)的擔(dān)憂。

記者體驗(yàn)?zāi)彻局腔壅n堂人臉識(shí)別技術(shù)相關(guān)系統(tǒng)。

風(fēng)波：“換臉”淫穢視頻網(wǎng)上依然有售

今年8月，新興的娛樂換臉軟件“ZAO”(陌陌公司的一款產(chǎn)品)一夜之間沖上了微博熱搜，ZAO在蘋果應(yīng)用商店的標(biāo)語是“僅需一張照片，出演天下好戲”，ZAO使用AI技術(shù)，將用戶上傳的照片置入影視片段之中，實(shí)現(xiàn)用戶與“明星”的換臉。

隨著該軟件被用戶熟知，ZAO的用戶協(xié)議也受到了爭議。新京報(bào)記者調(diào)查發(fā)現(xiàn)，ZAO在用戶協(xié)議中寫到，“保護(hù)您的用戶信息與個(gè)人信息是ZAO及其關(guān)聯(lián)公司的一項(xiàng)基本原則，您同意，ZAO及其關(guān)聯(lián)公司將按照本協(xié)議及《隱私政策》的規(guī)定收集、使用、存儲(chǔ)、管理和保護(hù)您的用戶信息與個(gè)人信息;若您不同意或無法接受《隱私政策》全部或者部分條款或者有疑問的，請立即停止使用ZAO提供的服務(wù)，您繼續(xù)使用ZAO提供的服務(wù)將被視為接受”。

上述協(xié)議內(nèi)容意味著，用戶使用該軟件，則被視為同意隱私政策，ZAO可以收集、使用、存儲(chǔ)、管理和保護(hù)用戶信息與個(gè)人信息。不僅上述條款，ZAO的用戶協(xié)議中，有關(guān)用戶上傳內(nèi)容的使用權(quán)、授權(quán)內(nèi)容位置、隱私協(xié)議、版權(quán)等方面均遭到質(zhì)疑。

9月3日，針對媒體公開報(bào)道和用戶曝光的ZAO用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等網(wǎng)絡(luò)數(shù)據(jù)安全問題，工信部網(wǎng)絡(luò)安全管理局對北京陌陌科技有限公司相關(guān)負(fù)責(zé)人進(jìn)行了問詢約談。新京報(bào)記者近期調(diào)查發(fā)現(xiàn)，ZAO的用戶協(xié)議已經(jīng)修改，肖像權(quán)、授權(quán)內(nèi)容、用戶個(gè)人信息保護(hù)等內(nèi)容被放置在用戶協(xié)議的明顯位置。

ZAO受到關(guān)注之前，新京報(bào)記者曾調(diào)查發(fā)現(xiàn)，有人利用“AI換臉”技術(shù)制作淫穢視頻，并在網(wǎng)絡(luò)上傳播售賣，甚至有人出售制作教程。這些視頻通過電腦技術(shù)將明星的臉植入淫穢視頻中，買賣方多通過貼吧、QQ和閑魚進(jìn)行溝通交易。

近期，新京報(bào)記者調(diào)查發(fā)現(xiàn)，名為“AI換臉”“deepfake(與AI換臉相關(guān)的技術(shù))”的貼吧均已被清理。不過，網(wǎng)絡(luò)上依然可以找到“明星換臉”“fakeApp(與AI換臉相關(guān)的技術(shù))”等貼吧，并且貼吧里仍然存在網(wǎng)友自制的“明星換臉”視頻。

新京報(bào)記者在貼吧中聯(lián)系上某淫穢視頻賣家，該賣家向記者出示了包含明星名字、“明星換臉”淫穢視頻類目、“明星換臉”淫穢視頻截圖等。賣家稱，視頻僅以打包價(jià)形式出售，214部138元，附送精品在線看網(wǎng)站+AI網(wǎng)站(4個(gè))或80部50元。

同時(shí)，新京報(bào)記者在閑魚上檢索“換臉”“AI換臉”“明星換臉”“deepfake”“fakeApp”等關(guān)鍵詞，均未搜索出任何相關(guān)商品;在淘寶上搜索相同的關(guān)鍵詞，只檢索到“AI換臉視頻教學(xué)”等商品。值得注意的是，多個(gè)明星的大頭照正被作為訓(xùn)練人工智能的素材被售賣。

爭議：人臉識(shí)別走進(jìn)校園，有贊成有質(zhì)疑

2018年，杭州某中學(xué)將一款“智慧課堂行為管理系統(tǒng)”應(yīng)用于課堂教學(xué)，時(shí)任校領(lǐng)導(dǎo)表示，該系統(tǒng)可實(shí)現(xiàn)無感“刷臉”考勤，同時(shí)通過攝像頭，還可對課堂上學(xué)生的行為進(jìn)行統(tǒng)計(jì)分析，對異常行為實(shí)時(shí)反饋。該領(lǐng)導(dǎo)曾在接受新京報(bào)記者采訪時(shí)表示，“所采集的只是學(xué)生行為狀態(tài)信息，進(jìn)而轉(zhuǎn)換成代碼進(jìn)行分析，而不是課堂錄像，不涉及學(xué)生們的隱私”。

2019年10月15日，南京某大學(xué)近期啟用了人臉識(shí)別門禁系統(tǒng)。 圖/視覺中國

新京報(bào)記者近日選取某公司的人臉識(shí)別課堂輿情產(chǎn)品進(jìn)行測試，被監(jiān)控區(qū)域中的人臉會(huì)被系統(tǒng)自動(dòng)抓取，并在顯示器上被紅色邊框標(biāo)示出來，邊框右側(cè)顯示的是被分析的結(jié)果，包括什么情緒、注意力程度，以及皺眉、張嘴、閉眼、抿嘴的具體次數(shù)。記者測試發(fā)現(xiàn)，該系統(tǒng)存在一定程度的誤差，識(shí)別的臉部表情、心態(tài)與實(shí)際有不符合的情況。

事實(shí)上，隨著智慧校園的建立，多個(gè)高校已經(jīng)引入人臉識(shí)別、人臉數(shù)據(jù)采集分析等相關(guān)系統(tǒng)。新京報(bào)記者了解到，目前北京大學(xué)、清華大學(xué)、中國傳媒大學(xué)等北京高校，均配有人臉識(shí)別的門禁或設(shè)備。

“我們學(xué)校東門今年新設(shè)了人臉識(shí)別門禁系統(tǒng)，我覺得很方便。”中國石油大學(xué)(北京)的學(xué)生王強(qiáng)(化名)表示，原來需要刷學(xué)生卡才能進(jìn)入學(xué)校東門，現(xiàn)在只用刷臉就進(jìn)去了，他認(rèn)為沒有什么不妥，不用帶卡也更方便。

“利用人臉識(shí)別類技術(shù)，無論是進(jìn)行課堂管理還是教學(xué)效果分析，都不可避免要收集用戶的數(shù)據(jù)。”聯(lián)合國網(wǎng)絡(luò)安全與網(wǎng)絡(luò)犯罪問題高級(jí)顧問吳沈括告訴新京報(bào)記者，若類似技術(shù)被非法利用，個(gè)人信息的安全等問題將存在法律風(fēng)險(xiǎn)。也有觀點(diǎn)稱，人臉識(shí)別技術(shù)應(yīng)用在教育領(lǐng)域涉及倫理問題。

目前，華為、百度、商湯科技、云從科技、曠視科技等公司都有人臉識(shí)別技術(shù)研發(fā)，并涉及公共安全、信息安全、政府職能等多個(gè)領(lǐng)域。智研咨詢《2017-2022年中國生物識(shí)別設(shè)備市場供需預(yù)測及發(fā)展趨勢研究報(bào)告》顯示，預(yù)計(jì)到2020年，指紋識(shí)別市場規(guī)模將達(dá)到130億美元、人臉識(shí)別將達(dá)24億美元、虹膜識(shí)別將達(dá)到16億美元。

上述報(bào)告還指出，中國在生物識(shí)別技術(shù)領(lǐng)域研究已處于世界先進(jìn)水平，但目前應(yīng)用規(guī)模和滲透率與歐美市場相差還很大，加之目前行業(yè)增速穩(wěn)定，估計(jì)國內(nèi)未來將有較大發(fā)展空間，預(yù)計(jì)2020年生物識(shí)別市場規(guī)模將突破300億元。

訴訟：中國人臉識(shí)別第一案受關(guān)注

說到人臉識(shí)別的爭議，最受關(guān)注的恐怕要數(shù)中國人臉識(shí)別第一案。

11月1日，浙江理工大學(xué)特聘副教授郭兵收到杭州市富陽區(qū)人民法院的受理案件通知書，法院決定立案受理郭兵訴杭州野生動(dòng)物世界一案。郭兵于2019年初花費(fèi)1360元購買了杭州野生動(dòng)物世界的年卡，該卡有效期一年，入園時(shí)要同時(shí)驗(yàn)證卡和指紋。2019年10月17日，郭兵收到園區(qū)發(fā)來的短信稱，“年卡系統(tǒng)已升級(jí)為人臉識(shí)別入園，原指紋識(shí)別已取消，即日起，未注冊人臉識(shí)別的用戶將無法正常入園。”

盡管園區(qū)表示，這一做法出于讓游客快速通行的需求，但郭兵認(rèn)為，杭州野生動(dòng)物世界在未經(jīng)其同意的情況下，通過升級(jí)年卡系統(tǒng)，強(qiáng)制收集他的個(gè)人生物識(shí)別信息，嚴(yán)重違反了《消費(fèi)者權(quán)益保護(hù)法》等法律的相關(guān)規(guī)定。同時(shí)，現(xiàn)由于杭州野生動(dòng)物世界的原因?qū)е履昕o法正常使用，郭兵希望，杭州野生動(dòng)物世界應(yīng)退還年卡費(fèi)用。

“這不僅是對于我自己權(quán)益的侵害，很多人可能都面臨著這樣的情況。”郭兵對新京報(bào)記者表示，面部特征等個(gè)人生物識(shí)別信息屬于個(gè)人敏感信息，一旦(被)泄露、非法提供或者濫用，將極易危害消費(fèi)者的人身和財(cái)產(chǎn)安全，“如果是政府部門，特別是公安為了社會(huì)公共秩序進(jìn)行人臉識(shí)別，可能具有一定必要性。”

北京志霖律師事務(wù)所副主任趙占領(lǐng)表示，收集、使用個(gè)人信息需要符合正當(dāng)、合法、必要的原則，需要公開收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意，“人的臉部特征這種生物信息屬于個(gè)人信息的范圍，也是需要遵守網(wǎng)絡(luò)安全法等相關(guān)法律法規(guī)的規(guī)定”。

除了此案，歌手蔡徐坤給嗶哩嗶哩彈幕視頻網(wǎng)站(B站)發(fā)律師函，也曾把娛樂換臉視頻推上了風(fēng)口浪尖。今年4月，蔡徐坤方發(fā)出律師告知函，認(rèn)為B站上存在大量嚴(yán)重侵犯蔡徐坤權(quán)利的內(nèi)容，包括濫用肖像、故意誹謗、惡意剪輯等。蔡徐坤方提到的惡意剪輯視頻，就包括惡意將其他人的臉換到蔡徐坤的表演視頻里。

網(wǎng)友舒米(化名)告訴新京報(bào)記者，他出于獵奇和娛樂心態(tài)，喜愛觀看“AI換臉”視頻。但也有多名網(wǎng)友在相關(guān)視頻的評論區(qū)提出了對于“AI換臉”技術(shù)的其他看法，網(wǎng)友灰燼(化名)說，“‘AI換臉’，(可能用于)敲詐勒索色情造謠，技術(shù)無罪，果然還是人本惡”。

調(diào)查發(fā)現(xiàn)，不僅蔡徐坤，B站上有大量的“AI換臉”視頻，且人氣較高，其中，一個(gè)將明星蔡徐坤的臉替換成前網(wǎng)絡(luò)游戲主播盧本偉的臉的視頻，在嗶哩嗶哩上的播放量為260多萬。不少B站網(wǎng)友，在相關(guān)“AI換臉”視頻評論區(qū)留言“毫無違和感”“搞笑”“換臉也是惡搞視頻的一種，就是圖個(gè)樂”。