45位女星換臉視頻賣(mài)49元 AI換臉產(chǎn)業(yè)鏈隱患令人擔(dān)憂(yōu)

近日，一款名為“ZAO”的換臉軟件突然走紅引發(fā)爭(zhēng)議，“ZAO”熱背后，AI換臉灰色產(chǎn)業(yè)鏈也開(kāi)始浮出水面。中新經(jīng)緯調(diào)查發(fā)現(xiàn)，目前在網(wǎng)絡(luò)平臺(tái)上，售賣(mài)明星換臉的淫穢視頻、提供視頻定制換臉?lè)?wù)、教授換臉技術(shù)等已經(jīng)成為一門(mén)生意。

律師指出，制作、售賣(mài)AI換臉不雅視頻已構(gòu)成傳播淫穢物品牟利罪，同時(shí)涉嫌侵犯他人肖像權(quán)和名譽(yù)權(quán)。此外，律師還提醒，被換臉的視頻有可能被用于詐騙或敲詐，造成更大的危害，應(yīng)引起全社會(huì)重視。

40多位女星被換臉，上百部視頻賣(mài)49元

賣(mài)家雨嫣(化名)對(duì)中新經(jīng)緯說(shuō)，他手里有45位女明星的上百部AI換臉視頻資源可以出售。隨后，雨嫣向中新經(jīng)緯發(fā)來(lái)了上述視頻的目錄截圖。“網(wǎng)盤(pán)發(fā)貨，在線(xiàn)觀看，打包價(jià)49元。擔(dān)心不像可以免費(fèi)試看，當(dāng)紅一線(xiàn)(明星)的內(nèi)容更好點(diǎn)，三四線(xiàn)(明星)的內(nèi)容一般。”

另一位賣(mài)家也稱(chēng)，可以打包出售40多位女明星上百部AI換臉視頻，價(jià)格為75元，可以免費(fèi)試看，網(wǎng)盤(pán)發(fā)貨。

上述兩位賣(mài)家均提出不要在二手交易平臺(tái)上溝通內(nèi)容，而是要求在QQ上聊。其中一位賣(mài)家對(duì)中新經(jīng)緯說(shuō)：“平臺(tái)對(duì)這種信息監(jiān)控比較嚴(yán)格，商品信息隨時(shí)可能被刪，我們也是抱著僥幸的心理，能賣(mài)一單是一單。”

中新經(jīng)緯注意到，9月2日晚間，上述兩款商品的信息已被平臺(tái)刪除，但搜索“換臉”仍可看到其他眾多相似的商品信息。

換臉視頻可定制，10元制作一分鐘

此外，在其他一些電商平臺(tái)上，還有賣(mài)家表示，可以提供視頻定制換臉產(chǎn)品。只需要買(mǎi)家提供一些被換臉人的照片，賣(mài)家便可以將照片中的人臉“轉(zhuǎn)”到特定視頻中特定人物上去。

“提供被換臉人的五到十張照片和視頻素材，收費(fèi)是10元一分鐘，五分鐘起做，一到兩個(gè)小時(shí)出貨，如果視頻比較長(zhǎng)，還可以便宜。”該賣(mài)家表示，“你可以自己提供視頻，也可以用我的，但視頻要越清晰越好，不要側(cè)臉、蓋臉。”

該賣(mài)家強(qiáng)調(diào)，視頻是他親自做，他手里有很多固定客戶(hù)。“做視頻的時(shí)候電腦什么也干不了，還損耗顯卡，所以我這個(gè)價(jià)格算很公道。”該賣(mài)家說(shuō)，“找我的有的是做‘小黃片’的，但更多的是做一些商品的宣傳短片，大家各有各的用途。”

此外，在一些與“AI換臉”相關(guān)的QQ群內(nèi)，還有一些賣(mài)家稱(chēng)可以傳授AI換臉技術(shù)，“包教包會(huì)，價(jià)格公道”，并且還可以贈(zèng)送全套明星換臉視頻資源。據(jù)了解，“學(xué)習(xí)”AI換臉技術(shù)的學(xué)費(fèi)約在500元上下，最快四五個(gè)小時(shí)就能學(xué)會(huì)。

有用戶(hù)對(duì)此表達(dá)了擔(dān)憂(yōu)。網(wǎng)友“熙熙”表示：“會(huì)不會(huì)有人利用我發(fā)在社交平臺(tái)上的自拍照去制作換臉視頻呢?那樣的話(huà)就太可怕了。”還有評(píng)論稱(chēng)，這個(gè)簡(jiǎn)單的應(yīng)用可能會(huì)被居心叵測(cè)的用戶(hù)利用，從而制作各種色情、暴力的虛假視頻。

律師：AI換臉被濫用的風(fēng)險(xiǎn)不容忽視

ZAO App的突然走紅引發(fā)了這波對(duì)于AI換臉技術(shù)的關(guān)注與討論，但實(shí)際上，這項(xiàng)技術(shù)并不是最近才出現(xiàn)的。今年年初，一段通過(guò)AI技術(shù)將《射雕英雄傳》中演員朱茵臉部替換成楊冪的視頻在網(wǎng)絡(luò)引起熱議。目前，在一些視頻網(wǎng)站上，仍有大量AI換臉視頻。

AI換臉背后是Deepfake技術(shù)，Deepfake指的是用人工智能軟件制作的虛假視頻，由FakeApp程序創(chuàng)建而成，F(xiàn)akeApp則可實(shí)現(xiàn)AI換臉。

在ZAO由于可能引發(fā)版權(quán)、隱私安全等問(wèn)題引起用戶(hù)廣泛關(guān)注后，北京市安理律師事務(wù)所高級(jí)合伙人王新銳曾表示，ZAO這類(lèi)利用深度學(xué)習(xí)技術(shù)換臉的軟件，最大的問(wèn)題還是大規(guī)模收集生物識(shí)別信息和“真假難辨”的Deepfake給社會(huì)帶來(lái)的安全風(fēng)險(xiǎn)，而這種風(fēng)險(xiǎn)目前被公眾廣泛低估，但實(shí)際上已經(jīng)在不斷帶來(lái)嚴(yán)重的后果。

北京志霖律師事務(wù)所律師趙占領(lǐng)在接受中新經(jīng)緯采訪(fǎng)時(shí)表示，制造、銷(xiāo)售AI換臉淫穢視頻無(wú)疑已構(gòu)成傳播淫穢物品牟利罪，同時(shí)也涉嫌侵犯他人肖像權(quán)和名譽(yù)權(quán)。而對(duì)于購(gòu)買(mǎi)AI換臉淫穢視頻的買(mǎi)家來(lái)說(shuō)，若對(duì)其加以傳播或者以傳播牟利，則也可能構(gòu)成違法甚至犯罪。

趙占領(lǐng)進(jìn)一步指出，除了將AI換臉技術(shù)用于制作淫穢視頻，提供定制視頻換臉?lè)?wù)若被不法利用可能造成更大的社會(huì)危害。“對(duì)于普通人來(lái)說(shuō)，別人拿你的照片去給視頻做了換臉，這有可能是出于調(diào)侃目的，但也有可能會(huì)利用這種視頻向被換臉者的親屬進(jìn)行詐騙、敲詐。趙占領(lǐng)說(shuō)，“我擔(dān)心的是，這一技術(shù)被濫用，或者是被那些不法之徒及有惡意的人使用，便等于打開(kāi)了潘多拉的魔盒。”

趙占領(lǐng)認(rèn)為，對(duì)于這種新型的違法犯罪行為，需要及時(shí)完善現(xiàn)有法律規(guī)則和技術(shù)手段，同時(shí)也應(yīng)該通過(guò)更多的手段讓民眾知曉這種行為帶來(lái)的危害性。【責(zé)任編輯/古飛燕】

來(lái)源：中新經(jīng)緯

IT時(shí)代網(wǎng)(關(guān)注微信公眾號(hào)ITtime2000，定時(shí)推送，互動(dòng)有福利驚喜)所有原創(chuàng)文章版權(quán)所有，未經(jīng)授權(quán)，轉(zhuǎn)載必究。
創(chuàng)客100創(chuàng)投基金成立于2015年，直通硅谷，專(zhuān)注于TMT領(lǐng)域早期項(xiàng)目投資。LP均來(lái)自政府、互聯(lián)網(wǎng)IT、傳媒知名企業(yè)和個(gè)人。創(chuàng)客100創(chuàng)投基金對(duì)IT、通信、互聯(lián)網(wǎng)、IP等有著自己獨(dú)特眼光和豐富的資源。決策快、投資快是創(chuàng)客100基金最顯著的特點(diǎn)。

相關(guān)文章

45位女星換臉視頻賣(mài)49元 AI換臉產(chǎn)業(yè)鏈隱患令人擔(dān)憂(yōu)