ZAO事件全解析

 在8月30日當(dāng)天，平臺(tái)的用戶協(xié)議中第6條第1款規(guī)定：“在您上傳及/或發(fā)布用戶內(nèi)容以前，您同意或者確保實(shí)際權(quán)利人同意授予‘ZAO’及其關(guān)聯(lián)公司以及‘ZAO’用戶全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對(duì)用戶內(nèi)容進(jìn)行全部或部分的修改與編輯……以及對(duì)修改前后的用戶內(nèi)容進(jìn)行信息網(wǎng)絡(luò)傳播以及《著作權(quán)法》規(guī)定的由著作權(quán)人享有的全部著作財(cái)產(chǎn)權(quán)利及鄰接權(quán)利。

8月31日晚，ZAO在用戶協(xié)議開頭增加了“特別提示”，“您基于本協(xié)議及您使用ZAO的相關(guān)服務(wù)而授權(quán)給ZAO的相關(guān)內(nèi)容(您上傳的短視頻及您的人臉等)，ZAO僅限用于為您提供上傳/發(fā)布短視頻以及利用技術(shù)對(duì)平臺(tái)上的短視頻進(jìn)行局部修改生成新的短視頻的服務(wù)，相關(guān)的內(nèi)容將嚴(yán)格按相關(guān)法律法規(guī)的規(guī)定保留在ZAO上，除非為了改善ZAO為您提供的服務(wù)或另行取得您的再次同意，否則ZAO不會(huì)以任何其他形式或目的使用上述內(nèi)容。”

有用戶指責(zé)平臺(tái)“利用用戶不仔細(xì)看條款內(nèi)容的心理，永久使用用戶肖像權(quán)”;還有用戶因?yàn)?ldquo;上傳照片后，自己刪不了”而擔(dān)心自己的“人臉信息被用于違法犯罪活動(dòng)”。

陌陌旗下AI換臉APP“ZAO”因數(shù)據(jù)隱私問(wèn)題引起了公眾強(qiáng)烈爭(zhēng)議。用戶協(xié)議增加“特別提示”記者注意到，該軟件的信息安全引發(fā)熱議。用戶差評(píng)主要圍繞平臺(tái)用戶協(xié)議展開。3日，“ZAO”運(yùn)營(yíng)團(tuán)隊(duì)公開回應(yīng)：ZAO不會(huì)存儲(chǔ)個(gè)人面部生物識(shí)別特征信息;虛構(gòu)圖像能達(dá)到肉眼上近似，但并不是真實(shí)信息;使用ZAO不會(huì)產(chǎn)生支付風(fēng)險(xiǎn);刪除信息或注銷賬號(hào)，ZAO均會(huì)依據(jù)相關(guān)法律法規(guī)的規(guī)定刪除相應(yīng)信息。

各位關(guān)心“ZAO”的朋友：

很抱歉，新生的“ZAO”給大家?guī)?lái)了諸多疑慮。作為一個(gè)初創(chuàng)產(chǎn)品，我們?cè)诖蠹液诵年P(guān)切的問(wèn)題上確實(shí)考慮不周。這兩天，我們一直在反思和修正。我們非常理解大家對(duì)于隱私和安全問(wèn)題的擔(dān)憂，也很重視大家的各種反饋、意見和建議。我們第一時(shí)間對(duì)《用戶協(xié)議》條款的文本進(jìn)行徹底地梳理，對(duì)容易引發(fā)歧義的地方進(jìn)行修改和調(diào)整，并就大家關(guān)心的問(wèn)題做以下說(shuō)明：

1. “ZAO”不會(huì)存儲(chǔ)個(gè)人面部生物識(shí)別特征信息。在您的使用過(guò)程中，為保護(hù)肖像權(quán)不被冒用，“ZAO”設(shè)置了真人驗(yàn)證環(huán)節(jié)，整個(gè)過(guò)程僅為驗(yàn)證您上傳的照片是您本人，為確保您的信息安全，“ZAO”不會(huì)存儲(chǔ)個(gè)人面部生物識(shí)別特征信息。

2.“ZAO”所呈現(xiàn)的“換臉”效果，是我們根據(jù)您提交的頭像照片，按照您選定的素材場(chǎng)景，通過(guò)后期技術(shù)疊加所實(shí)現(xiàn)的虛構(gòu)圖像，并沒有采集任何個(gè)人生物識(shí)別特征。虛構(gòu)圖像能達(dá)到肉眼上近似，但并不是您的真實(shí)信息。

3.使用“ZAO”不會(huì)產(chǎn)生支付風(fēng)險(xiǎn)。刷臉支付安全門檻極高，僅通過(guò)一張照片實(shí)現(xiàn)的“換臉”技術(shù)完全無(wú)法突破刷臉支付的安全系統(tǒng)。權(quán)威支付平臺(tái)也均從專業(yè)技術(shù)角度，強(qiáng)調(diào)“換臉”完全不可能威脅支付安全。

4.您刪除信息或注銷賬號(hào)，“ZAO”均會(huì)依據(jù)相關(guān)法律法規(guī)的規(guī)定刪除相應(yīng)信息。目前有用戶看到注銷后的緩存信息，會(huì)在后續(xù)更新版本時(shí)修復(fù)。

我們非常重視個(gè)人信息保護(hù)和數(shù)據(jù)安全，在產(chǎn)品中也運(yùn)用了加密存儲(chǔ)等多種安全措施，嚴(yán)格遵守法律法規(guī)的要求，全面保護(hù)個(gè)人信息和數(shù)據(jù)安全。此前給大家造成疑慮和困擾，我們?cè)俅沃虑?。感謝大家對(duì)我們產(chǎn)品的關(guān)注，我們會(huì)積極更新和完善服務(wù)，給大家?guī)?lái)更多新技術(shù)的愉快體驗(yàn)。

AI換臉火到服務(wù)器都崩了?被多個(gè)專家指責(zé)后，用戶協(xié)議改了

一夜之間，換臉軟件ZAO火了，火到服務(wù)器都扛不住了。昨天，大量用戶在社交平臺(tái)抱怨“下了軟件卻無(wú)法生成視頻”。與服務(wù)器一起“崩”的還有平臺(tái)上約6000字的用戶協(xié)議，被多個(gè)法律專家指責(zé)“過(guò)度索取肖像權(quán)”。隨后，ZAO迅速修改了協(xié)議，剔除了用戶照片視頻不可撤銷、永久授權(quán)平臺(tái)免費(fèi)使用的條款，并表示用戶視頻會(huì)按照法律規(guī)定保留在服務(wù)器中，但這并不能打消人們對(duì)人臉隱私信息可能被濫用或盜用的擔(dān)心。

在2019世界人工智能大會(huì)上，已經(jīng)有專家指出，人工智能應(yīng)及時(shí)系上“安全帶”。為了進(jìn)一步印證類似的人臉App安全性，記者體驗(yàn)了40多款涉及人臉信息識(shí)別的App，發(fā)現(xiàn)不少問(wèn)題。“我跟胡歌演對(duì)手戲啦。”“我已穿越到延禧攻略!”8月30日晚，大批網(wǎng)友在社交平臺(tái)發(fā)布了與明星合演的小視頻，“奧秘”就是從換臉軟件ZAO中上傳一張個(gè)人照片，再選擇想要出演的片段和替換的明星。

記者上傳了一張網(wǎng)絡(luò)照片，并進(jìn)行視頻制作。在等待了1分鐘后，視頻生成。記者選用的替換視頻是瑪麗蓮·夢(mèng)露的幾段影視作品。替換的視頻中，女孩的五官和視頻中的瑪麗蓮·夢(mèng)露融合在一起，表情也很自然。“這個(gè)月花700萬(wàn)租的服務(wù)器，今晚已經(jīng)消耗1/3了。”31日晚間，ZAO官方微博發(fā)出這樣一句感嘆。然而，即便如此，這款軟件仍然無(wú)法應(yīng)對(duì)海量用戶需求。一時(shí)間， “ZAO崩了”迅速成為微博熱點(diǎn)話題。

記者實(shí)測(cè)發(fā)現(xiàn)，31日20時(shí)，在平臺(tái)上傳照片并點(diǎn)擊“造視頻”，頁(yè)面顯示的是：當(dāng)前制造任務(wù)已滿，無(wú)法制造;23時(shí)30分，記者用另一個(gè)賬號(hào)登錄后，平臺(tái)顯示“當(dāng)前服務(wù)器制造量過(guò)大，請(qǐng)稍后再試。”與此同時(shí)，ZAO在蘋果手機(jī)App Store的免費(fèi)App排行榜中已經(jīng)飆升至第二名。昨天早上7時(shí)，記者再次嘗試，發(fā)現(xiàn)平臺(tái)運(yùn)行恢復(fù)正常。可上午10時(shí)，記者制作視頻時(shí)，服務(wù)器再次顯示“繁忙”，又回歸“累崩”狀態(tài)。

法律專家：“換臉”App盡量少用或不用

中國(guó)社會(huì)科學(xué)院法學(xué)所副研究員陳根發(fā)告訴記者，《個(gè)人信息安全規(guī)范》規(guī)定，個(gè)人上傳的可以識(shí)別面部特征這類敏感的個(gè)人信息，在收集個(gè)人敏感信息時(shí)，應(yīng)取得個(gè)人信息主體的明示同意。應(yīng)確保個(gè)人信息主體的明示同意是其在完全知情的基礎(chǔ)上自愿給出的、具體的、清晰明確的愿望表示。“中央網(wǎng)信辦今年5月份出臺(tái)的《App 違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法(征求意見稿)》也明確規(guī)定在 App 安裝、使用等過(guò)程中需通過(guò)彈窗、鏈接等方式提示用戶閱讀隱私政策，隱私政策鏈接和文本也要正常顯示。人臉采集等敏感個(gè)人信息還應(yīng)該在協(xié)議開頭做出特別提示。”

融商律師事務(wù)所合伙人王穎律師向記者強(qiáng)調(diào)了嚴(yán)格監(jiān)管肖像使用的必要性：“監(jiān)管是不能超前而必須滯后的，因?yàn)檫^(guò)于超前的監(jiān)管，肯定會(huì)阻礙科技的發(fā)展。但是科技的應(yīng)用，應(yīng)該是有限制的。在相關(guān)監(jiān)管暫時(shí)沒有跟上的時(shí)候，企業(yè)也應(yīng)當(dāng)負(fù)起自己的社會(huì)責(zé)任。”

王穎認(rèn)為，信息被濫用，侵害無(wú)辜人的肖像權(quán)、名譽(yù)權(quán)和個(gè)人隱私等問(wèn)題是必然會(huì)出現(xiàn)的，而其中使用者必須默認(rèn)同意的設(shè)置也肯定是錯(cuò)誤的，涉嫌霸王條款。“具體可以參照2017年支付寶的《芝麻服務(wù)協(xié)議》的那個(gè)爭(zhēng)議。”王穎律師說(shuō)，《消費(fèi)者權(quán)益保護(hù)法》中明確規(guī)定，消費(fèi)者有選擇權(quán)，默認(rèn)同意必須是法律規(guī)定，或雙方事先約定。“如果這兩條都沒有，程序選擇了自動(dòng)勾選，那肯定是錯(cuò)誤的。涉嫌平臺(tái)逃避責(zé)任，限制消費(fèi)者權(quán)利。”

北京市京劍律師事務(wù)所主任律師金翔仔細(xì)解讀了ZAO用戶協(xié)議的條款。他提醒說(shuō)，只是為了娛樂，隨意提供自己的肖像在上述App上使用，在目前的網(wǎng)絡(luò)環(huán)境和此類新生事物法律監(jiān)管幾乎處于空白的狀態(tài)下，實(shí)在是弊大于利，建議使用者謹(jǐn)慎使用，在自己沒有弄清楚使用它的法律后果之前，盡量少使用或者不使用。

人工智能應(yīng)及時(shí)系上安全帶

“其實(shí)可以這么理解，肖像就是你的身份證，或者說(shuō)就是你身份信息數(shù)據(jù)庫(kù)的一部分。”DCCI互聯(lián)網(wǎng)研究院院長(zhǎng)劉興亮表示，隨著人臉識(shí)別的應(yīng)用越來(lái)越廣泛，每一個(gè)普通的肖像都成為身份信息的重要組成部分，“通俗地講，肖像就和身份證號(hào)、你的手機(jī)解鎖密碼、聲音、指紋等一樣重要。”

信息安全工程師范屹表示，在人臉識(shí)別領(lǐng)域，官方應(yīng)用更值得信賴，“我們比較常遇見的，像鐵路系統(tǒng)，這是官方背景的、比較安全的人臉識(shí)別應(yīng)用。”但他同時(shí)強(qiáng)調(diào)：“我們已經(jīng)習(xí)慣了，密碼不能告訴別人，身份證號(hào)、銀行卡號(hào)不能隨意泄露。但是我們自己的人臉，卻沒有足夠重視。換臉App玩起來(lái)開心，背后的隱患卻不被重視。”范屹透露，被盜用的肖像會(huì)被應(yīng)用到何處，現(xiàn)在還不明確，但是其潛在隱患無(wú)法忽略，“現(xiàn)在網(wǎng)約車平臺(tái)要求司機(jī)必須進(jìn)行完人臉識(shí)別才可以接單，以保證安全。如果被換臉的司機(jī)通過(guò)了人臉識(shí)別，乘客安全就無(wú)從談起了。”

在2019世界人工智能大會(huì)上，騰訊董事會(huì)主席兼首席執(zhí)行官馬化騰說(shuō)，在AI的治理方面，要以“科技向善”引領(lǐng)全方位治理，確保AI“可知”“可控”“可用”“可靠”。微軟全球執(zhí)行副總裁沈向洋表示，今天我們是人工智能的發(fā)明者，我們絕對(duì)不可能也不應(yīng)該等到80年以后才為人工智能補(bǔ)上一條“安全帶”。

涉及人臉信息識(shí)別的App不光有ZAO，記者體驗(yàn)了40多款涉及人臉信息識(shí)別的App后發(fā)現(xiàn)，與ZAO類似的“霸王”條款屢見不鮮。例如，在一款名叫“人臉識(shí)別系統(tǒng)”的App的《用戶協(xié)議》中，第3.1.2款規(guī)定，“您是您的用戶內(nèi)容唯一的責(zé)任人，您將承擔(dān)因您的用戶內(nèi)容披露而導(dǎo)致的您或任何第三方被識(shí)別的風(fēng)險(xiǎn)。”又如在換臉類App“Face link”的《用戶協(xié)議》中第2.4款規(guī)定，“Face link”為用戶提供合法的、健康的產(chǎn)品及服務(wù)，但是用戶應(yīng)對(duì)其使用自行承擔(dān)責(zé)任及風(fēng)險(xiǎn)，在任何情況下不就因使用或不能使用提供的服務(wù)所發(fā)生的特殊的、意外的、直接或間接的損失承擔(dān)賠償責(zé)任。

這40多款A(yù)pp中，沒有一款在注冊(cè)登錄頁(yè)有勾選按鈕，都是通過(guò)手機(jī)號(hào)或者微信等社交媒體賬號(hào)注冊(cè)。著急登陸并試玩用戶，可能并不清楚一閃而過(guò)的注冊(cè)頁(yè)面后，自己接受了哪些“霸王條款”，注冊(cè)之后用戶必須同意授權(quán)提供設(shè)備信息等權(quán)限，才可繼續(xù)使用。并且，其中僅有不到10款A(yù)pp的《用戶協(xié)議》，在協(xié)議開頭就人臉信息的收集和使用規(guī)范做出特別提示，并在用戶協(xié)議里設(shè)置了有關(guān)人臉信息的條款。記者還發(fā)現(xiàn)，數(shù)十款換臉類App根本沒有《用戶協(xié)議》和《隱私政策》。