盡管人們對(duì)利用DeepFake來操縱選舉、在世界各國制造混亂的做法高度關(guān)注，但其中絕大多數(shù)人實(shí)際上更為幼稚，他們會(huì)將女性名人的面孔映射到色情明星的身體上，任何熟悉互聯(lián)網(wǎng)歷史的人都不會(huì)對(duì)此感到驚訝。

在最近關(guān)于全身DeepFake的報(bào)道中，一家名為Deep Trace Labs的公司表明他們對(duì)合成媒體領(lǐng)域已開展廣泛研究，這家位于阿姆斯特丹的公司過往專注于AI操控內(nèi)容。今天，該公司發(fā)布了一份備受期待的報(bào)告《DeepFake現(xiàn)狀：前景、威脅和影響》，他們?cè)趫?bào)告中探討了在網(wǎng)站、論壇和移動(dòng)應(yīng)用中普遍存在的DeepFake。

正如Deep Trace Labs的Giorgio Patrini所解釋的，這項(xiàng)研究始于該公司2017年成立之時(shí)，包括對(duì)網(wǎng)站、論壇和服務(wù)的全面檢查。研究人員梳理了論壇和DeepFake社區(qū)的帖子，找到晦澀和不太受到關(guān)注的元素，以全面了解DeepFake對(duì)現(xiàn)狀的威脅。Deep Trace通過其內(nèi)部開發(fā)的公共API和特別工具從這些網(wǎng)站、渠道、論壇和社區(qū)收集數(shù)據(jù)。它還可以查看網(wǎng)站或YouTube頻道，在這些網(wǎng)站或頻道中，并非所有內(nèi)容都可能來自DeepFake。

Deep Trace發(fā)現(xiàn)，目前網(wǎng)上有14678個(gè)DeepFake視頻，其中96%是色情視頻，并且大部分都是著名女演員的臉，被轉(zhuǎn)移到色情明星的身體上。事實(shí)上，大多數(shù)DeepFake的目標(biāo)是女性，而大多數(shù)非色情的目標(biāo)是男性。YouTube上超過90%的DeepFake視頻都來自西方世界，從女演員、音樂家到政客和企業(yè)界人士。但Patrini強(qiáng)調(diào)，這不僅僅是一種僅限于西方的現(xiàn)象。

“在DeepFake色情網(wǎng)站上，近三分之一的視頻中出現(xiàn)了非西方題材，其中韓國流行歌手占了目標(biāo)對(duì)象的四分之一，”Patrini說道。“這表明，DeepFake色情是一種日益全球化的現(xiàn)象。”

“我們的數(shù)據(jù)顯示，大多數(shù)實(shí)際上仍然是演員，但也有少數(shù)企業(yè)和政治領(lǐng)導(dǎo)人，”Patrini說道。“我認(rèn)為這可以歸因于與非色情DeepFake相關(guān)的生命力機(jī)制。”創(chuàng)造者主要是業(yè)余愛好者，他們?cè)噲D創(chuàng)造高質(zhì)量的DeepFake成果。選擇知名人物，如馬斯克、特朗普或者Nicholas Cage，意味著你的“DeepFake”成果更容易被人看到，同時(shí)也增加了喜劇元素。

據(jù)介紹，在過去幾年里，關(guān)于生成性對(duì)抗網(wǎng)絡(luò)(GANs)的論文數(shù)量激增，生成性對(duì)抗網(wǎng)絡(luò)是兩種神經(jīng)網(wǎng)絡(luò)，一種是合成器或生成器，另一種是檢測(cè)器，可以生成DeepFake的圖像或視頻，然后在反饋環(huán)中仔細(xì)檢查質(zhì)量，直到最終產(chǎn)品令人信服地得到改進(jìn)。生成性對(duì)抗網(wǎng)絡(luò)絕不是DeepFake的幕后黑手，但Patrini表示，它們無疑是“由深度學(xué)習(xí)驅(qū)動(dòng)的最流行和最有效的生成方法”。

Deep Trace的研究表明，生成性對(duì)抗網(wǎng)絡(luò)發(fā)文量的顯著增長，只能間接地表明這兩種現(xiàn)象具有相關(guān)性。Deep Trace無法在更多的生成性對(duì)抗網(wǎng)絡(luò)研究和DeepFake的增加之間，建立起直接的因果關(guān)系。

“不僅僅是具有博士學(xué)位的研究人員，更多的人都能夠試驗(yàn)并提出新的算法變體，而且我們可以通過論文的增長來間接衡量這一點(diǎn)，”Patrini表示。“發(fā)表更多的實(shí)驗(yàn)成果并將其擴(kuò)展到新的應(yīng)用表明，這些想法有可能被轉(zhuǎn)化為可重用代碼和更可靠、更高效的工具，來供非專家使用。”

Deep Trace還指出，DeepFake創(chuàng)作社區(qū)正在增長。Github、4chan、8chan和其他基于論壇的網(wǎng)站都共享開源的DeepFake代碼。

“我們?cè)趫?bào)告中指出的一個(gè)關(guān)鍵點(diǎn)是，與其他社區(qū)相比，某些社區(qū)的動(dòng)機(jī)和活動(dòng)非常不同，”Patrini表示。“如果我們只看負(fù)面新聞，很明顯，一些社區(qū)和論壇主要集中在使用DeepFake的創(chuàng)作工具，來制作那些非自愿的DeepFake色情作品。”

Patrini認(rèn)為，其中一些社區(qū)以提供非法或邊緣化的內(nèi)容而聞名，這方面以4chan和8chan為代表。在這些平臺(tái)上，DeepFake創(chuàng)作工具的商品化，可能會(huì)導(dǎo)致該技術(shù)繼續(xù)產(chǎn)出有害和惡意的使用案例，例如網(wǎng)絡(luò)欺凌或政治宣傳。

但Patrini很快注意到，其他平臺(tái)上也都有愛好者和一些個(gè)體，在YouTube上專注DeepFake的博主更符合他們的興趣。比如博主Ctrl Shift Face，他曾將Tom Cruise和Al Pacino的臉變成了喜劇演員和印象派Bill Hader的臉。

Patrini認(rèn)為：“我不會(huì)說這些用途具有明確的正面作用，但從表面上看，它們肯定不是惡意的。”此外，由于DeepFake不只是發(fā)生在西方的現(xiàn)象，Deep Trace認(rèn)為，這需要全球采取行動(dòng)，打擊惡意使用。

“從已經(jīng)出現(xiàn)的各種工具和網(wǎng)站的數(shù)量可以看出，DeepFake對(duì)企業(yè)來說具有巨大的商機(jī)，”Patrini指出，這有助于這些工具的商品化和日益普及。“僅僅是DeepFake的想法就足以動(dòng)搖政治進(jìn)程。”