每經(jīng)記者 張虹蕾    每經(jīng)編輯 梁梟    

從迅速走紅社交網(wǎng)絡(luò)，用戶競相嘗鮮，到因隱私協(xié)議廣受外界爭議，再到最新被工信部約談，在不到一周的時間里，“ZAO”App的境遇可謂“冰火兩重天”。

伴隨著“ZAO”App站在新的“十字路口”，用戶們也逐漸從狂熱變得謹(jǐn)慎又忐忑……這不禁讓人心生疑問，看起來很美的AI換臉，其背后究竟有怎樣的風(fēng)險？

從走紅到質(zhì)疑，“ZAO”App的風(fēng)險在哪兒？

“眼看他起朱樓，眼看他宴賓客，眼看他樓塌了。”

作為“ZAO”App的嘗鮮者，新媒體從業(yè)者王麗麗（化名）告訴《每日經(jīng)濟新聞》記者，讓她意想不到的是，自己剛嘗到AI換臉帶來的樂趣，轉(zhuǎn)眼就面臨著個人隱私泄露的風(fēng)險。

8月31日晚，王麗麗在朋友圈看到自己的多個好友都在展示“換臉”小視頻。在幾秒鐘的小視頻中，有人可以實現(xiàn)和偶像同框演戲的愿望、有人扮演明星角色進行一場“cosplay”。興趣使然，王麗麗也加入了AI換臉的“陣營”。在手機驗證注冊后，王麗麗在攝像頭前進行眨眼、扭頭等動作后，才可使用相關(guān)功能。通過App模板，王麗麗可根據(jù)自身的喜好換成影視劇中的經(jīng)典角色。除了把生成的小視頻發(fā)在朋友圈，還可以做成GIF動態(tài)表情。

王麗麗是“ZAO”App眾多的AI換臉用戶之一。從8月30日上線開始，“ZAO” App就迅速走紅。不到24小時，這款A(yù)PP就在各應(yīng)用商店免費應(yīng)用排行榜中躥升至前列，同期更入選微博熱搜話題。那幾天，AI換臉成了社交平臺上一道頻繁出現(xiàn)的風(fēng)景線。王麗麗也和朋友們沉浸在ZAO新奇的玩法中。

不過，隨著AI換臉走紅，質(zhì)疑之聲接踵而至。

根據(jù)“ZAO”App用戶協(xié)議內(nèi)容中的必要授權(quán)協(xié)議：用戶上傳發(fā)布內(nèi)容后，意味著同意授予“ZAO”App及其關(guān)聯(lián)公司以及“ZAO”App用戶在“全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”，“包括但不限于可以對用戶內(nèi)容進行全部或部分的修改與編輯（如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等）以及對修改前后的用戶內(nèi)容進行信息網(wǎng)絡(luò)傳播以及《著作權(quán)法》規(guī)定的由著作權(quán)人享有的全部著作財產(chǎn)權(quán)利及鄰接權(quán)利”。

這一協(xié)議很快引起了用戶的爭議和討論，包括王麗麗在內(nèi)的多數(shù)用戶認(rèn)為，這一協(xié)議存在泄漏個人信息的風(fēng)險，情況嚴(yán)重還可能導(dǎo)致人臉識別支付等場景被盜用的風(fēng)險。

北京大成（成都）律師事務(wù)所律師龐彥燕對《每日經(jīng)濟新聞》記者表示，這涉及用戶肖像權(quán)的法律侵權(quán)問題和隱私問題。在互聯(lián)網(wǎng)和AI技術(shù)迅速發(fā)展的當(dāng)下，用戶的肖像可能被用于制造假圖片、假視頻，甚至隨著科技的發(fā)展可直接用于人臉識別支付，存在一系列風(fēng)險。

內(nèi)心產(chǎn)生擔(dān)憂的不只是王麗麗，不少先前充滿熱情嘗鮮的用戶，都開始擔(dān)憂自身的隱私泄露。甚至有用戶在APP下載界面對于相關(guān)協(xié)議作出“過分了”、“霸王條款”等評論。

致歉聲明后用戶仍擔(dān)憂

根據(jù)微博認(rèn)證信息，“ZAO”App的運營主體為長沙深度融合網(wǎng)絡(luò)科技有限公司。工商資料顯示，長沙深度融合網(wǎng)絡(luò)科技有限公司法定代表人為雷小亮。此外，長沙深度融合網(wǎng)絡(luò)科技有限公司股東為海南喵咖網(wǎng)絡(luò)科技有限公司，后者法定代表人為也是雷小亮，股東為雷小亮與王力。

工商資料顯示，今年7月19日，長沙深度融合網(wǎng)絡(luò)科技有限公司發(fā)生股東變更，北京陌陌科技有限公司退出，新增海南喵咖網(wǎng)絡(luò)科技有限公司。由此可見，北京陌陌科技有限公司是“ZAO”App原股東。而雷小亮則是陌陌的聯(lián)合創(chuàng)始人和產(chǎn)品總監(jiān)。

隨著輿論的不斷發(fā)酵，今日（9月4日），工信部官網(wǎng)發(fā)布消息稱，3日，針對媒體公開報道和用戶曝光的“ZAO”App用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險等網(wǎng)絡(luò)數(shù)據(jù)安全問題，工信部網(wǎng)絡(luò)安全管理局對陌陌相關(guān)負(fù)責(zé)人進行了問詢約談，并要求其嚴(yán)格按照國家法律法規(guī)以及相關(guān)主管部門要求，組織開展自查整改，依法依規(guī)收集使用用戶個人信息，規(guī)范協(xié)議條款，強化網(wǎng)絡(luò)數(shù)據(jù)和用戶個人信息安全保護。同時，要進一步加強新技術(shù)新業(yè)務(wù)安全評估，切實采取有效措施，積極防范自有業(yè)務(wù)平臺被利用實施電信網(wǎng)絡(luò)詐騙等風(fēng)險隱患。

而據(jù)36氪今日（9月4日）報道，針對工信部的約談，“ZAO”App運營團隊回應(yīng)稱：“ZAO上線以來，我們和各主管部門保持著積極順暢的溝通。非常感謝大家對于新技術(shù)新應(yīng)用的關(guān)注，我們也在第一時間回應(yīng)了大家的核心關(guān)切，將嚴(yán)格按照法律法規(guī)和各主管部門的要求，按照更加嚴(yán)格的標(biāo)準(zhǔn)，全面加強內(nèi)容管理、完善各項管理機制，確保用戶個人信息安全和數(shù)據(jù)安全。”

9月3日，“ZAO”App運營團隊通過微博發(fā)聲明并致歉稱，“ZAO”App不會存儲個人面部生物識別特征信息。“ZAO”App所呈現(xiàn)的“換臉”效果，是根據(jù)用戶提交的頭像照片，按照用戶選定的素材場景，通過后期技術(shù)疊加所實現(xiàn)的虛構(gòu)圖像，并沒有采集任何個人生物識別特征。使用“ZAO”App不會產(chǎn)生支付風(fēng)險。用戶刪除信息或注銷賬號，“ZAO”App均會依據(jù)相關(guān)法律法規(guī)的規(guī)定刪除相應(yīng)信息。

不過，這一說法尚未平息用戶心中的怒火。目前，在上述微博的聲明下，大量用戶依然在追問：注銷后個人信息和照片的數(shù)據(jù)安全泄露隱患如何消除？

AI換臉可能“曇花一現(xiàn)”？

事實上，關(guān)于互聯(lián)網(wǎng)用戶隱私安全問題，業(yè)界早有關(guān)注。

渤海證券研報指出，當(dāng)前全球在線文件暴露問題日益嚴(yán)重，外部存儲數(shù)據(jù)量的增加給原有的數(shù)據(jù)安全策略帶來了新的挑戰(zhàn)，預(yù)計未來3年會有更多企業(yè)和政府機構(gòu)在防止隱私泄露和保護個人數(shù)據(jù)上加大投入。

今年2月末，一個運用AI換臉技術(shù)將94版《射雕英雄傳》電視劇中朱茵飾演的黃蓉，換“臉”成了楊冪的小視頻，一經(jīng)發(fā)布便在網(wǎng)絡(luò)上收獲巨大點擊量和引起熱議。4月，《民法典人格權(quán)編（草案）》二審稿提請十三屆全國人大常委會第十次會議審議。而此次草案二審稿針對技術(shù)“換臉”侵犯自然人肖像權(quán)的問題，專門增加規(guī)定：任何組織和個人不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)。而今年8月，在草案三審稿中，也進一步升級了隱私權(quán)和個人信息保護。

艾媒咨詢創(chuàng)始人兼CEO張毅對《每日經(jīng)濟新聞》記者表示，AI換臉等產(chǎn)品可能在誕生初期迅速帶給用戶新鮮感，很容易達(dá)到“一夜走紅”的效果。但縱觀行業(yè)的發(fā)展和綜合因素，該運用場景很可能是曇花一現(xiàn)。在平臺被媒體曝光存在隱私安全隱患的同時，大部分用戶也會考慮可能面臨的風(fēng)險，嘗試欲望也會進一步降低。

張毅表示，通過近幾天的抽樣調(diào)查發(fā)現(xiàn)，目前，使用“ZAO”App的用戶多為一些年輕女性，相對而言，年齡層偏成熟的人士對于軟件的使用度較低。因而，該APP的應(yīng)用場景更多是切入細(xì)分市場，很難普及。

張毅還分析道，AI換臉等技術(shù)雖已日漸成熟，但從宏觀層面看，仍然存在多方面風(fēng)險，受到監(jiān)管和法律層面的制約。未來能夠占據(jù)市場主流的仍然是有政府授權(quán)、安全性高的企業(yè)，一些初創(chuàng)和小眾的平臺，如果不能達(dá)到較高的安全系數(shù)，很難取得用戶長久信任，立足市場。

新智元創(chuàng)始人兼CEO楊靜對《每日經(jīng)濟新聞》記者表示，AI換臉并非新鮮事，支持這種場景的機器學(xué)習(xí)技術(shù)——Deepfakes已經(jīng)相當(dāng)成熟。Deepfakes指的是用人工智能軟件制作的虛假視頻，由FakeApp程序創(chuàng)建而成，F(xiàn)akeApp則可實現(xiàn)AI換臉。在該項技術(shù)的發(fā)展過程中，也存在一些爭議，AI換臉是否會侵犯到用戶隱私和信息安全備受關(guān)注。

不過，楊靜也指出，“道高一尺，魔高一丈”，技術(shù)進步也會推動科技向善。為了保障AI換臉等場景的安全性，國內(nèi)外的研究者和團隊也推出了AI防偽克星、AI偵測工具等AI“打假武器”。此外，AI技術(shù)進步驅(qū)動行業(yè)升級和效率提升，但要高效安全地運用AI技術(shù)，法律的進一步完善、監(jiān)管部門的規(guī)范管理、用戶的隱私保護意識缺一不可。

封面圖片來源：攝圖網(wǎng)