“螞蟻呀嘿，螞蟻呀呼，螞蟻呀哈，螞蟻呀哈哈......”過去一周，在微信朋友圈、微博、抖音等社交媒體平臺，相信不少人都被這個魔性的音樂配合著夸張扭動的變臉視頻刷屏了。

然而這款名為Avatarify，火爆全網(wǎng)的AI換臉軟件從2月底沖上蘋果App Store免費(fèi)榜第一，到今天從App Store中國區(qū)悄然“下架”只用了不到一周的時間。目前官方未給出具體下架原因，業(yè)界猜測該款軟件可能涉及隱私安全等問題。

AI換臉你體驗(yàn)過了嗎?

Avatarify的名稱來源于“阿凡達(dá)”電影，創(chuàng)作者是一位開發(fā)工程師，最初只是因?yàn)橐咔槠陂g過于太無聊，才開發(fā)了這款變臉應(yīng)用并將其開源。其實(shí)Avatarify早在去年7月就已經(jīng)上線，但一直不溫不火，直至”螞蟻呀嘿“特效躥紅后，才帶火了這款軟件。

軟件運(yùn)行的原理是將別人的臉套在自己的表情上進(jìn)行實(shí)時驅(qū)動。用戶只需要三步：導(dǎo)入手機(jī)里的人臉圖片，選擇視頻模板，軟件就能自動生成短視頻，再一鍵保存即可。如果想要照片中的多人都動起來，根據(jù)抖音中大多數(shù)視頻制作教程，則還需要一些剪輯軟件加以輔助。

Avatarify軟件背后用到的是deepfakes這項(xiàng)強(qiáng)大的AI人臉交換技術(shù)，這項(xiàng)技術(shù)不僅可以生成圖片，還可以生成視頻。Deepfakes，是由“deep machine learning”(深度機(jī)器學(xué)習(xí))和“fake photo”(假照片)組合而成，本質(zhì)是一種深度學(xué)習(xí)模型在圖像合成、替換領(lǐng)域的技術(shù)框架，DeepFakes的出現(xiàn)可以說是人臉交換技術(shù)的一個重要突破。

AI換臉安全爭議不可回避

然而，就像過往的任何一款換臉AI軟件一樣，Avatarify不可回避地也遇到了可能涉及的安全和隱私問題。人臉是非常隱私且重要的個人信息，由于換臉軟件在使用過程會收集用戶個人信息，如照片、面部特征等。如果將這些信息通過AI技術(shù)合成，一旦被泄露被盜取，很可能會對個人財(cái)產(chǎn)造成損害，以及由此帶來一系列未知風(fēng)險(xiǎn)。早前在國內(nèi)火爆一時的“ZAO”也曾因?qū)﹄[私泄露的擔(dān)心引發(fā)公眾焦慮和談?wù)摚⒈还ば挪考s談后下架。

對于Avatarify的下架，有網(wǎng)友表示：“技術(shù)是好技術(shù)，但是應(yīng)該有正確的使用規(guī)范。在沒有規(guī)范的前提下應(yīng)當(dāng)謹(jǐn)慎使用。”“AI換臉最怕的就是被不法分子利用。”

2019年11月底，國家網(wǎng)信辦、文旅部和廣電總局等三個部門聯(lián)合發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，其中明確了“利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的應(yīng)當(dāng)及時采取相應(yīng)的辟謠措施”等針對換臉技術(shù)的新規(guī)定。規(guī)定同時指出，利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識。且不得利用該技術(shù)“制作、發(fā)布、傳播虛假信息”。此外，規(guī)定還強(qiáng)調(diào)，不得利用相關(guān)的音視頻技術(shù)“侵害他人名譽(yù)權(quán)、肖像權(quán)、隱私權(quán)、知識產(chǎn)權(quán)和其他合法權(quán)益”。

任何AI技術(shù)的運(yùn)用都是人類科技發(fā)展進(jìn)步的體現(xiàn)，但是在使用任何高科技和新手段的時候一定要守住法律和道德的底線。用戶在體驗(yàn)App的時候更要多留一份心眼。不能只顧好玩而忽略了信息安全及個人隱私的泄露問題。(解敏)