原標題：“螞蟻呀嘿”被下架，AI換臉技術存在哪些風險隱患？

來源：新華日報

原標題：換臉特效火爆全網秒被下架

AI換臉技術，有“侵犯隱私”之嫌？

前不久，社交媒體平臺上一款名為“螞蟻呀嘿”的特效火爆全網，許多網友都將自己的照片導入換臉軟件Avatarify中，照片便可以被算法驅動，生成一段表情夸張扭曲且跟著節奏晃動的換臉短視頻。短短幾天后，正如此前火爆一時的換臉軟件ZAO一樣，Avatarify被下架，許多人猜測下架原因是AI換臉可能涉及隱私問題。AI換臉技術的原理是什么？換臉是否會造成個人隱私泄露？帶著網友的提問，《科技周刊》記者專訪東南大學網絡空間安全學院副教授宋宇波，為我們揭開AI換臉技術的秘密。

問：AI換臉技術背后的原理是什么？

宋宇波：最早實現換臉是通過修圖(Photoshop)的方式實現的，不僅耗時耗力，其換臉效果也不佳。而目前比較流行的換臉軟件，實際上是運用了生成式對抗網絡（GAN）技術，這是深度學習模型中的一種。簡單來說，就是機器通過事先采集大數據中的人臉表情特征，再結合換臉人本身的一些特征信息，通過“對抗博弈”的方式不斷進化，最終生成我們所希望得到的換臉視頻。這種方式不僅可以快速地實現自動換臉，其生成的圖像也更逼真。

問：什么是生成式對抗網絡？

宋宇波：盡管生成式對抗網絡中包含“網絡”一詞，但它和我們通常所說的“互聯網”并不是一回事，它本質上是一個數學算法。由于生成式對抗網絡采用的是深度學習中的神經網絡學習算法，故而保留了“網絡”兩個字。

生成式對抗網絡框架通過讓兩個神經網絡相互博弈的方式進行學習，其中一個是生成器，另一個是判別器。生成器根據預置的規則嘗試生成數據，而判別器則會去判別是否是真實數據，并把判別結果反饋給生成器，生成器會根據反饋信息進行調整，從而輸出新的數據，兩者反復博弈直到判別器將生成器生成的數據判別為真實數據為止。例如當我們想生成一個笑臉時，判別器會自動識別生成器隨機生成的表情是否為笑臉；如果不是，此信息會被駁回，生成器會根據反饋重新調整生成數據，經過層層判別，最終輸出的人臉里既會包含換臉人本身的特征，同時也包含我們所期望的笑臉表情。

值得注意的是，機器前期采集的喜怒哀樂等通用表情信息主要來源于大數據圖庫，而并非換臉人的個人表情信息。這也就意味著，利用對抗生成網絡技術實現的換臉僅需要不多的個人人臉照片即可。該換臉技術誕生最初大概需要300-500張換臉人的圖片，而隨著近年技術的不斷改進，現在僅僅需要3-5張相關照片就可以生成需要的換臉照片或者視頻。

在機器學習中，生成式對抗網絡的應用非常多，其最主要的用途就是生成我們想要的數據。目前大部分應用集中于視頻和圖像創造，例如我們在拍攝中需要一些動畫或者特定場景，原本可能需要制作道具或者耗費人工進行手繪，而現在利用這一技術，則可以變得非常高效。

問：AI換臉是否存在個人隱私泄露風險？偽視頻、偽圖片能攻破人臉識別系統嗎？

宋宇波：任何一種技術都存在兩面性，如果單純是為了搞笑消遣而制作換臉視頻，本身并沒有太多的危害，但如果這一技術被不法分子利用，則會產生極大危害。信息被濫用、個人生物識別特征被泄露等風險，是這類軟件頻繁引發質疑的一個重要原因。對于個人來說，目前許多金融場所都依賴于視頻線上識別來進行身份核實，如果不法分子運用深度合成中的表情操縱方法生成偽視頻，則很可能造成個人金錢損失。

2019年11月底，國家網信辦、文旅部和國家廣電總局等三個部門聯合發布的《網絡音視頻信息服務管理規定》指出，利用基于深度學習、虛擬現實等新技術新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識；不得利用相關的音視頻技術“侵害他人名譽權、肖像權、隱私權、知識產權和其他合法權益”。由此可見，個人信息安全問題已經引起相關部門重視。盡管此類軟件大多聲明不會采集和存儲用戶敏感個人信息，但網友在上傳個人照片給第三方后，第三方自身平臺的防護系統是否安全？是否會被惡意攻破從而造成隱私泄露？這些方面都應該得到更多關注。

就目前而言，通過App下載的換臉圖片或者視頻，由于計算量有限，其圖像質量還比較差，仔細觀察后還是存在面部不自然等問題。而那些圖像質量高到可以欺騙人眼的換臉圖片和視頻，在相關檢測算法的判別下通常也都會“原形畢露”，因此，普通用戶不必過于擔心人臉識別系統會被攻破。但隨著技術的不斷改進，未來這類軟件很可能對我們的個人隱私造成較大威脅，因此我們也呼吁相關法規盡快出臺。（記者 謝詩涵）

[責任編輯：楊凡、崔中連]

想爆料？請登錄《陽光連線》（ https://minsheng.iqilu.com/）、撥打新聞熱線0531-66661234或96678，或登錄齊魯網官方微博（@齊魯網）提供新聞線索。齊魯網廣告熱線0531-81695052，誠邀合作伙伴。