AI“換臉”真相：“深度偽造”的網絡狂歡和安全威脅

　　近期，一款名為ZAO的人工智能換臉APP在國內推出。用戶只需上傳一張正面照，就可以一鍵操作，把一些影視劇片段中演員的臉換成自己的，立刻生成視頻，還可通過社交媒體傳播，仿佛瞬間圓了明星夢。

　　這一款換臉APP很快就成了爆款，頗受歡迎，但也很快引起有關部門的注意，就在本周，工信部就網絡數據安全問題約談了相關公司。

　　與此同時，“換臉” 軟件所依托的的一項AI技術，也引起了人們的關注，它被稱為：DeepFake, 深度偽造。

　　外國媒體報道：我們不能相信網上的所有東西，沒錯，深度偽造，深度偽造，深度偽造！是的，這到底是什么？深度偽造技術是利用人工智能合成以假亂真的視頻，這是一種高科技手段，可以把某些話塞進某人嘴里。

　　Deepfake(深度偽造)，“Deep learning”(深度學習)和“Fake”(偽造)結合而成的新單詞。

　　簡單來說，這是一種可以實時偽造面部表情，并將其渲染成2D合成視頻的人工智能技術。

　　早在一年多前， 2017年12月，一個名為“DeepFakes”的用戶在Reddit網站發布“假視頻”，將成人色情電影中演員的臉替換成了斯嘉麗·約翰遜等知名女演員的臉，畫面以假亂真。這為人工智能換臉技術吸引來了一大波流量，“DeepFake”深度偽造，也逐漸成為這一技術的代稱，同名算法也在Github開源，這是一個面向開源及私有軟件項目的托管平臺。

　　網絡視頻打假專家 沃德爾博士：你好，今天我要和你討論一項影響名人的新技術。(記得)奧巴馬說特朗普是笨蛋，或者卡戴珊的說唱“因為我總是半裸嗎”？深度偽造！深度偽造！深度偽造！這也是深度偽造，我也不是阿黛爾，我是(打擊)網絡偽造的專家。深度偽造用來形容人工智能技術合成的視頻或音頻文件。它起初就是一種非常基本的面部更換，現在還成了電影特技。有了這樣的爆款技術，天啊，我們不能相信任何東西了。沒錯，深度偽造就是可怕的反烏托邦。它們只會變得更容易，制作成本也更低廉。

　　李浩是美國南加州大學的助理教授，“針幕動畫”公司的聯合創始人，這家公司推出的軟件可以讓用戶在玩虛擬現實游戲和購物時，即時定制自己的三維虛擬化身。

　　“針幕動畫”聯合創始人 李浩：現在我制作了一個你的化身。

　　美國公共廣播公司記者 奧布萊恩：一個和藹整潔的奧布萊恩。

　　這種戲法可以用在任何人身上，當然也包括政界要人。

　　美國公共廣播公司記者 奧布萊恩：現在我成了我們的總統(特朗普)，日本首相安倍晉三。

　　“針幕動畫”聯合創始人 李浩：當然，這個技術可以用來做一些真的很壞的事情。但主要目的絕不是如此，它被用于娛樂，一個有趣的工具，用于時尚、生活方式各方面，帶給我們更多體驗。

　　但隨著技術的發展，這樣的合成圖像或視頻，真實度越來越強，欺騙性也越來越強。對此，研發者也不無擔憂。

　　“針幕動畫”聯合創始人 李浩：我們都假設會有一個臨界點，屆時將無法區分真假。我的意思是，從視覺效果上說，我覺得你已經可以做到非常接近了，只是取決于你花多少努力在上面。但就任何人都可以創建的內容而言，我認為已經非常接近這個臨界點了。

　　2018年1月，一個名為FakeApp的軟件上線，宣稱可以實現“一鍵換臉”。可生成的視頻內容包括惡搞美國總統特朗普，或是將自己的臉貼到好萊塢明星身上。

　　雖然有的社交新聞站點比如Reddit網站，已明令禁止在自己的平臺傳播換臉視頻和圖片，但仍有超過9萬名用戶在Reddit上傳播這類視頻。

　　計算機科學專家 法里德：我擔心這項技術被武器化，還擔心它如何影響我們整個社會。

　　深度偽造不僅可以換臉，還可偽造聲音。