微軟 Facebook 出手了！作惡工具 Deepfakes 會(huì)就此滅亡嗎？

記者(公眾號(hào)：記者)消息，2019 年 9 月 5 日，F(xiàn)acebook CTO Mike Schroepfer 發(fā)布了一篇博文宣布，F(xiàn)acebook 正與微軟公司以及多所大學(xué)聯(lián)合研究檢測(cè) deepfakes 的方法，甚至投入了 1000 萬(wàn)美元來(lái)發(fā)起競(jìng)賽，激勵(lì)檢測(cè)研究的發(fā)展。

2017 年，一名 ID 為 Deepfakes 的網(wǎng)友在 Reddit 網(wǎng)站上傳了一段換臉視頻，并在之后上傳了一系列類似的視頻；由于換臉視頻涉及色情內(nèi)容，并且侵犯了他人的隱私，引起了惡劣的反響。最終，Reddit 官方將 Deepfakes 封號(hào)。而作為報(bào)復(fù)，Deepfakes 也將換臉視頻的 AI 代碼免費(fèi)公開，從此，Deepfakes 視頻像病毒一樣蔓延全球，無(wú)論是明星還是政客，都有可能被“換臉”。

出于人們對(duì)這項(xiàng)技術(shù)的強(qiáng)烈擔(dān)憂，Deepfakes 在一定程度上遭到了打壓。

雖然，Deepfakes 時(shí)常會(huì)被用于惡搞視頻里，而且人們也覺(jué)得無(wú)傷大雅；但是，如果出現(xiàn)在政黨競(jìng)選領(lǐng)域，或許就另當(dāng)別論了——有專家表示，在 2020 年美國(guó)總統(tǒng)大選之前，或許會(huì)有更多關(guān)于政客的 Deepfakes 假新聞出現(xiàn)。

就目前而言，美國(guó)還沒(méi)有引發(fā)重大政治后果的 Deepfakes 換臉視頻，但最近網(wǎng)上流傳出一段劣質(zhì)的有關(guān)美國(guó)眾議院議長(zhǎng) Nancy Pelosi 的視頻片段，視頻片段中 Nancy Pelosi 的演講被人為降速，讓她看上去含混不清，造成了負(fù)面影響。

更重要的是，使用該技術(shù)的成本在變得越來(lái)越低。網(wǎng)絡(luò)上有一些團(tuán)隊(duì)正在開發(fā)制作簡(jiǎn)單 Deepfakes 視頻的市場(chǎng)；甚至在 YouTube 上傳指導(dǎo)教程，教人手把手制作 Deepfakes 視頻，再收取一定的費(fèi)用；也有一些自助服務(wù)網(wǎng)站可以幫助生成 Deepfakes 視頻。

前兩天刷爆朋友圈的換臉 app ZAO 更是大大降低了人們感受這項(xiàng)技術(shù)的門檻——不需要 P 圖技術(shù)、不需要代碼知識(shí)、不需要專業(yè)設(shè)備；僅需要一部手機(jī)，一張照片，就能快速生成換臉視頻；效果逼真，動(dòng)作流暢。而且，一旦用戶上傳自己的照片，并且同意該軟件的用戶協(xié)議和隱私協(xié)議，肖像權(quán) & 隱私權(quán)就有可能面臨著巨大的風(fēng)險(xiǎn)。

正如開篇所提到的，針對(duì) Deepfakes 帶來(lái)的惡劣影響，眾多機(jī)構(gòu)已經(jīng)開始行動(dòng)。Facebook 已經(jīng)聯(lián)合學(xué)術(shù)和企業(yè)兩個(gè)領(lǐng)域的力量，共同研究以低成本的方式檢測(cè)出 Deepfakes 視頻的方法。

記者了解到，項(xiàng)目的參與者包括康奈爾科技校區(qū)（Cornell Tech）、麻省理工學(xué)院（MIT）、牛津大學(xué)（University of Oxford）和伯克利大學(xué)（UC Berkeley）等；非營(yíng)利性研究組織 Partnership on AI 也參與其中，該組織的成員有 Google 、蘋果、亞馬遜、IBM 等大型科技公司。

Facebook 的聲明中還援引了來(lái)自多個(gè)大學(xué)的教授的話；其中，紐約州立大學(xué)工程與應(yīng)用科學(xué)學(xué)院的呂思偉教授說(shuō)道：

雖然 Deepfakes 視頻看起來(lái)可能很逼真，但它們畢竟是由算法生成的，而不是由攝像機(jī)捕獲的真實(shí)事件；這意味著它們?nèi)匀豢梢员粰z測(cè)出來(lái)。一些有前景的新方法可以發(fā)現(xiàn)和減輕 Deepfakes 的有害影響，包括在視頻素材中添加“數(shù)字指紋”以幫助驗(yàn)證其真實(shí)性。除此之外，解決這個(gè)問(wèn)題還需要技術(shù)人員、政府機(jī)構(gòu)、媒體、公司和每一個(gè)在線用戶共同努力。

作為該項(xiàng)目的一部分，F(xiàn)acebook 還投入了 1000 萬(wàn)美元來(lái)發(fā)起競(jìng)賽，競(jìng)賽將從 2019 年末開始，到 2020 年春季結(jié)束；屆時(shí)還將有一個(gè)排行榜，用來(lái)評(píng)定 Deepfakes 檢測(cè)系統(tǒng)的能力。從某種程度上來(lái)說(shuō)，發(fā)起競(jìng)賽不失為一種明智之舉，可以激勵(lì)研究人員以及業(yè)余愛(ài)好者尋找解決方案。

不過(guò)，與所有有關(guān)于人工智能的問(wèn)題一樣，Deepfakes 視頻的檢測(cè)也涉及到大量的數(shù)據(jù)和訓(xùn)練。因此，F(xiàn)acebook 也會(huì)委托研究人員生成逼真的 Deepfakes 內(nèi)容，通過(guò)這些內(nèi)容生成數(shù)據(jù)集，以便于測(cè)試檢測(cè)工具的效果。與此同時(shí)，F(xiàn)acebook 也表示，這些視頻將邀請(qǐng)付費(fèi)的演員出演，不會(huì)使用用戶的數(shù)據(jù)。這些視頻數(shù)據(jù)也將于今年 10 月舉行的國(guó)際計(jì)算機(jī)視覺(jué)會(huì)議進(jìn)行初步測(cè)試，并于 12 月在溫哥華舉行的 NeurIPS 會(huì)議期間公開發(fā)布，以便于參賽者訪問(wèn)。

盡管 Facebook 對(duì)其計(jì)劃十分有信心，但想要解決 Deepfakes 的問(wèn)題也并非易事。

Facebook 首席技術(shù)官 Mike Schroepfer 在接受記者采訪時(shí)說(shuō)道，人們有許多方法可以檢測(cè) Deepfakes 視頻，比如通過(guò)視頻中一些奇怪的陰影形態(tài)和不自然的視覺(jué)效果。但隨著 Deepfakes 背后的技術(shù)迅速發(fā)展，檢測(cè)也變得越來(lái)越困難。

記者獲悉，一些研究人員正在打造一個(gè)通過(guò)數(shù)字水印驗(yàn)證視頻或圖像真實(shí)性的系統(tǒng)，然而，Deepfakes 技術(shù)的迅速發(fā)展，讓 Deepfakes 視頻制作者和檢測(cè)人員之間展開了一場(chǎng)軍備競(jìng)賽。紐約大學(xué)坦登學(xué)校計(jì)算機(jī)工程助理教授 Siddharth Garg 表示，“這就像一場(chǎng)貓鼠游戲，如果我們?cè)O(shè)計(jì)了一個(gè) Deepfakes 的檢測(cè)器，就等于給了黑客一個(gè)新的模擬器進(jìn)行反測(cè)試?！?/p>

另外，從檢測(cè)系統(tǒng)本身來(lái)看，當(dāng)一個(gè)系統(tǒng)已經(jīng)“看過(guò)”原始視頻時(shí)，確實(shí)能夠輕易地從假視頻中發(fā)現(xiàn)變化，從而檢測(cè)出 Deepfakes 視頻；但如果懷有惡意演員故意錄制視頻，然后對(duì)其進(jìn)行處理，那么對(duì)于人工智能系統(tǒng)而言，這個(gè)視頻就是“原始視頻”，沒(méi)有可以參考的標(biāo)準(zhǔn)，也就難以發(fā)現(xiàn)其中存在的問(wèn)題。

Mike Schroepfer 表示，F(xiàn)acebook 已經(jīng)嘗試了各種檢測(cè)方法，但希望這次比賽能夠產(chǎn)生更加新穎的方式。

值得一提的是，Deepfakes 最初被用于捏造以女性演員為對(duì)象的色情內(nèi)容，然而，F(xiàn)acebook 在其聲明中援引了 7 位學(xué)術(shù)嘉賓對(duì) Deepfakes 的評(píng)論，其中并未包括女性。這一點(diǎn)在 Twitter 上引起了廣泛的討論。

總的來(lái)說(shuō)，能夠看到學(xué)術(shù)界和企業(yè)聯(lián)合起來(lái)研究解決 Deepfakes 的相關(guān)問(wèn)題，不可謂不喜聞樂(lè)見。盡管，人們?cè)谶@條路上還會(huì)看到挑戰(zhàn)和困難不斷涌現(xiàn)，但正如 Facebook 在其聲明中所言，此次的行動(dòng)是“邁出了有意義的一步”。