艾瑪不哭！AI引起的「換臉」問題，AI正在解決

李根 發自 凹非寺

量子位 報道 | 公眾號 QbitAI

這個年，希望艾瑪·沃森(Emma Watson)過得踏實。

之前我們報道過，紙醉金迷的資本主義網站Reddit最近搞出可怕黑技術：用AI技術，把愛情動作片中的主角臉，換成想得不可得的女明星。史稱：Deepfakes。

△ 「神奇女俠」

更恐怖的是，這種原本門檻不低的技術流舉動，被一些別有用心的高手民主化了，升級之後推出了平民版本「FakeApp」，號稱人人可用。

門檻大為降低。只要你手握FakeApp，只需輸入1到2條明星臉部的高清視頻，即使你沒有技術背景和編程經驗，也能輕鬆給愛情動作片的主角換臉。

宅男之蜜糖，女星之砒霜。

艾瑪·沃森更是被double kill，不僅慘遭花式換臉，而且受歡迎程度遠超眾星，位居愛情動作片區換臉明星No.1。比大表姐、霉霉，不知要高到哪裡去

△ 艾瑪·沃森被換臉

不過艾瑪現在可以鬆口氣了，AI引起的問題，現在，AI正在解決。

「貓抓老鼠」

作為Deepfakes視頻最主要的素材來源平台，GIF動圖和短視頻共享網站Gfycat，基於平台上GIF搜索數據和工具，訓練了兩個AI模型，讓它們來發現並與換臉視頻作鬥爭。

一個取名Project Angora，以一種長毛貓命名；另一個叫Project Maru，源於一種短毛貓。

△ Angora貓和Maru貓

功能上說，長毛貓Angora記憶力好、動手能力強，可以快速找到換臉視頻的原版本，或者是不同版本。

之前它被用在相同視頻的不同解析度版本替換上，比如有人將「霉霉」Taylor Swift低質量的GIF上傳Gfycat時，長毛貓Angora可以在網上搜索更高解析度的版本替換它。

而短毛貓Maru則嗅覺敏銳、火眼金睛。它可以彌補長毛貓Angora的不足。

比如一些全新的沒被標註過的內容，長毛貓Angora就不知如何下爪，但短毛貓Maru會區分、能標註，它可以通過霉霉的臉，為這段沒被標註的「霉霉」打上Swift的標籤——實際就是機器自動化標註的形式之一。

另外，如果短毛貓Maru識別到這個素材中主角跟某個名人很像，它也會發揮貓的細緻，一幀幀掃「臉」，看是否有詐——畢竟再完美的換臉造假，也很難在每一幀里達到天衣無縫。

總之，長毛貓Angora和短毛貓Maru，都在用AI打造的智爪抓捕漏網「老鼠」。

防不勝防

儘管如此，目前兩隻貓還沒法杜絕「鼠患」，不是喵團不努力，而是鼠軍太強大。

長毛貓Angora記憶力好，但如果這不是一張「明星臉」，可能就會一臉懵逼。

短毛貓Maru再聰明，但如果這個視頻里完全都是素人，或者確實太像，比如波多姐姐和林姐姐之類的情形呢？事情就沒那麼簡單。

畢竟兩隻洋貓的核心目的是打假，並不反性。

那怎麼辦？

目前Gfycat採取了預防為主、防治結合的指導思想。

比如短毛貓Maru掃過素材後懷疑有假(但不能肯定這臉就是艾瑪·沃森)，它會先給「艾瑪」蒙上臉，然後再通過身體鏡頭、背景等去其他地方搜查，確認是否是一個被換臉的素材。

不得不說的是，短毛貓Maru的蒙臉技術也非常高超，比如下圖，就是一個很容易「丟臉」的美國知名Twitter大V。

再次強調，兩隻洋貓只能打假不會反性。

假如兩隻貓面對的是全網獨家的視頻，那它們真就無能為力了。或者即便是痕迹外露的換臉視頻，但涉及的當事人均來自首發，那Maru也愛莫能助。

(溫馨提示：確實無能為力，千萬不要以身嘗試！)

當然，為了解決兩支AI貓無法解決的情況，現在Gfycat還僱傭了一些人類員工作為複核，另外還使用了共享位置、上傳位置等數據，去協助判斷是否包含惡意偽造。

一刀切？沒用

之所以複核「惡意偽造」，是因為還有一些換臉視頻並無惡意，甚至還包含了不成熟的藝術小創作。

比如有人通過換臉，把特朗普的尊容換到默克爾身上，表達諷刺之情和黑色幽默，也有人給尼古拉斯凱奇搞了他不知道的角色，此外還有更多合情合法的該技術利用。

更關鍵的是，容許Deepfakes這樣的技術公開應用，總比藏於暗網好得多，未來在廣告、選舉影響等方面，這個技術都可能會發揮作用——可能是負面的，但也可能是正面的。

總之，技術進步帶來的問題，如果一刀切，可能會由最懶方法造成最不可控後果。

最後，AI換臉帶來的影響還不止於此。

從Deepfakes出現、FakeApp走紅開始，爭議和討論沒有停歇，應對舉措也沒有停止。

對於明顯侵權、造成傷害的那些換臉愛情動作視頻，Facebook、Pornhub等傳播平台都旗幟鮮明予以禁止，甚至一項尺度寬泛的Twitter，此次也站了出來，明令打擊換臉愛情動作內容。

而「受益者」Reddit，最近也揮刀自宮，一方面關停了之前用戶分享的相關內容，另一方面也明確聲明：禁止傳播描繪裸著露著狀態的任何人的圖像或視頻，或者明顯未經允許創建或發布的任何愛情動作行為，包括偽造的視頻。

Reddit之前不太有這樣禁止的傳統，更何況此次Deepfakes傳播帶來了4萬名之多的用戶——用戶數在一周內從15000名擴張到55000名。

另外，還有一些奇怪的應用隨之發生，比如出現了一個http://Deepfakes.cc的網站，其中包含隱性軟體，在不警告用戶的情況下劫持訪問者的計算能力用以挖礦。

而運行Deepfakes的機器學習er，通常比普通用戶群體有更強大的CPU。

世道真怪。

— 完 —

歡迎大家關注我們的專欄：量子位 - 知乎專欄

誠摯招聘

量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回復「招聘」兩個字。

量子位 QbitAI · 頭條號簽約作者

?? ? 追蹤AI技術和產品新動態