換臉軟件刷屏后隱私焦慮升溫：風(fēng)險(xiǎn)或在遠(yuǎn)程存照

8月30日-31日，打出“僅需一張照片，出演天下好戲”口號(hào)的AI換臉App“ZAO”刷屏朋友圈。通過這款A(yù)pp，僅需上傳一張照片，就能用你的臉制作網(wǎng)絡(luò)熱門表情包，出演經(jīng)典電影片段，跟偶像、朋友飆戲。

8月30日正式上線，8月31日下午14時(shí)，“ZAO”在蘋果應(yīng)用商店App Store的在免費(fèi)App的下載排名中已躍居第二。其火爆程度可見一斑。

不過，就在8月31日晚間，已有不少網(wǎng)友聚集在“ZAO”的官方微博，要求注銷賬號(hào)，刪除本地面孔。截至9月1日0時(shí)，“ZAO”在蘋果App store的評(píng)分由此前的4.6分降至2.2分。

火速躥紅又遭遇極大爭(zhēng)議的背后，是網(wǎng)民對(duì)于個(gè)人隱私安全的擔(dān)憂。

“‘ZAO’從用戶處獲得的信息主要是肖像圖片，從技術(shù)角度而言，它并不比其他上傳照片的App有更多風(fēng)險(xiǎn)，但‘ZAO’向用戶索取了更多的肖像使用授權(quán)，這意味著用戶會(huì)暴露更多的風(fēng)險(xiǎn)。” 極棒實(shí)驗(yàn)室安全研究員宋宇昊這么告訴澎湃新聞(www.thepaper.cn)記者。

色情是DeepFake技術(shù)的起源用途

“在Reddit網(wǎng)站發(fā)現(xiàn)一批明星的合成情色視頻，讓大家認(rèn)識(shí)了這項(xiàng)技術(shù)。”極棒實(shí)驗(yàn)室安全研究員宋宇昊向澎湃新聞?dòng)浾弑硎尽?/p>

所謂AI換臉術(shù)，是基于人工智能的人體圖像合成技術(shù)，生成的假臉(通稱DeepFake)。2017年底，這項(xiàng)技術(shù)第一次在Reddit網(wǎng)站亮相時(shí)，就一石激起千層浪，DeepFake讓明星們的頭出現(xiàn)在了情色演員身上。雖然Reddit封掉了賬號(hào)及相關(guān)的群組，Google、Twitter等網(wǎng)站也禁止相關(guān)搜索，但DeepFake從未真正消失，這項(xiàng)技術(shù)的代碼開源，讓越來越多的人開始制作類似視頻。

8月31日，“ZAO”刷屏，讓業(yè)內(nèi)人士再次關(guān)注這項(xiàng)技術(shù)的可控性。宋宇昊向澎湃新聞?dòng)浾哌M(jìn)一步解釋，AI換臉有兩個(gè)關(guān)鍵步驟，臉部提取和臉部轉(zhuǎn)換。臉部提取從照片中勾勒出人臉的輪廓，并且標(biāo)注出眼睛鼻子等關(guān)鍵部位，這樣就明確了圖片中需要被替換的對(duì)象。臉部轉(zhuǎn)換比較常用的實(shí)現(xiàn)方法是名為"自編碼器"的深度學(xué)習(xí)模型，通過學(xué)習(xí)替換雙方人臉的照片，訓(xùn)練出一個(gè)"編碼器"和兩個(gè)"解碼器"。

“編碼器具備一種能力，是從人臉圖片中抽象出表情動(dòng)作特征，而解碼器具備的能力，是把這些特征還原成目標(biāo)人物的人臉圖像。比如，利用甲臉部圖像的編碼器中抽出表情動(dòng)作，再利用乙的解碼器，把這些表情動(dòng)作還原成臉部圖像，就可以成功把甲的臉換成乙的臉。”宋宇昊說。

遠(yuǎn)程保存用戶臉部私照存隱憂

指紋、虹膜、人臉等生物識(shí)別信息也許是比身份證號(hào)碼、手機(jī)號(hào)更重要的個(gè)人隱私。2019年7月，人民銀行科技司司長(zhǎng)李偉在第四屆全球金融科技峰會(huì)上表示，人臉是非常敏感的個(gè)人信息，一旦泄露會(huì)帶來非常大的影響。

全國(guó)政協(xié)委員、上海眾人網(wǎng)絡(luò)安全技術(shù)有限公司創(chuàng)始人談劍鋒則在2019年3月表示，自己不用指紋解鎖，也不用人臉解鎖，手機(jī)設(shè)置密碼保護(hù)。“密碼丟了可以換，但生物信息是不可再生，一旦泄露，你不可能再有第二張臉了。”談劍鋒說。

如此重要的人臉信息正在被“ZAO”收集，澎湃新聞?dòng)浾甙l(fā)現(xiàn)， ZAO用戶協(xié)議內(nèi)容中的必要授權(quán)協(xié)議如此描述：用戶上傳發(fā)布內(nèi)容后，意味著同意授予ZAO及其關(guān)聯(lián)公司以及ZAO用戶在“全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”，“包括但不限于可以對(duì)用戶內(nèi)容進(jìn)行全部或部分的修改與編輯(如將短視頻中的人臉或者聲音換成另一個(gè)人的人臉或者聲音等)以及對(duì)修改前后的用戶內(nèi)容進(jìn)行信息網(wǎng)絡(luò)傳播以及《著作權(quán)法》規(guī)定的由著作權(quán)人享有的全部著作財(cái)產(chǎn)權(quán)利及鄰接權(quán)利”。

“‘ZAO’從用戶處獲得的信息主要是肖像圖片，從技術(shù)角度而言，它并不比其他上傳照片的App有更多風(fēng)險(xiǎn)，但‘ZAO’向用戶索取了更多的肖像使用授權(quán)，這意味著用戶會(huì)暴露更多的風(fēng)險(xiǎn)。” 宋宇昊告訴澎湃新聞?dòng)浾摺?/p>

同時(shí)，另一位不愿具名的安全專家也向澎湃新聞?dòng)浾咧赋觯帮L(fēng)險(xiǎn)不是換臉，而是App是否遠(yuǎn)程保存用戶的個(gè)人臉部私照，因?yàn)檎l也不知道他們保存這些個(gè)人肖像照之后的用途。如果平臺(tái)儲(chǔ)存或利用不當(dāng)，很有可能被惡意分子利用，比如欺騙注冊(cè)等，給用戶造成損失。”

2018年5月1日，《個(gè)人信息安全規(guī)范》正式實(shí)施，《規(guī)范》提出，個(gè)人基因、指紋、聲紋、掌紋、耳廓、虹膜、面部識(shí)別特征等個(gè)人生物識(shí)別信息屬于個(gè)人敏感信息，對(duì)于這些敏感信息，《規(guī)范》必須經(jīng)過個(gè)人信息主體的明示同意方可收集，而在保存方面，要求做到去標(biāo)識(shí)化處理，同時(shí)保存時(shí)間要遵循所需時(shí)間的最短要求，在信息的傳輸過程中也必須做到高度的安全防范措施。

即便有相關(guān)規(guī)范，但在澎湃新聞的記者采訪中不難發(fā)現(xiàn)，企業(yè)對(duì)安全的重視程度更多的是靠“自覺”。“對(duì)數(shù)據(jù)的保護(hù)力度有多大，取決于愿意在安全上投入多少成本。大企業(yè)有自己的安全底線，小公司可想而知。”上述安全專家表示。

支付寶回應(yīng)，不會(huì)威脅刷臉支付

AI換臉是否會(huì)讓刷臉支付變得不安全?8月31日，螞蟻金服方面回應(yīng)澎湃新聞?dòng)浾撸@不是互聯(lián)網(wǎng)上的第一款換臉App，也一定不是最后一款，但不管怎么換，你都不用擔(dān)心支付寶刷臉支付的安全性。

據(jù)了解，刷臉支付采用的是3D人臉識(shí)別技術(shù)，在進(jìn)行人臉識(shí)別前，會(huì)通過軟硬件結(jié)合的方式進(jìn)行檢測(cè)，來判斷采集到的人臉是否由照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。支付寶還會(huì)通過各種安全風(fēng)控策略確保賬戶安全，比如刷臉支付功能需要用戶進(jìn)行開通操作，開通之后才能進(jìn)行支付，用戶也可以隨時(shí)關(guān)閉，且只有在輸入過密碼的支付寶App上才能開通刷臉支付。

在支付寶App上，人臉識(shí)別并不是唯一的校驗(yàn)方式，支付寶的智能風(fēng)控引擎會(huì)通過設(shè)備、環(huán)境等多個(gè)因素輔助校驗(yàn)。部分用戶還需要輸入與賬號(hào)綁定的手機(jī)號(hào)以及驗(yàn)證碼進(jìn)行校驗(yàn)，進(jìn)一步提高了安全性。即便出現(xiàn)賬戶被冒用的極小概率事件，支付寶也會(huì)通過保險(xiǎn)公司進(jìn)行全額賠付。

此外，螞蟻金服相關(guān)人士表示，支付寶一直在呼吁生物識(shí)別領(lǐng)域的行業(yè)自律，并在8月23日發(fā)起了《生物識(shí)別用戶隱私與安全保護(hù)倡議》，呼吁從事該行業(yè)的科技企業(yè)加入進(jìn)來，一起來規(guī)范和保護(hù)用戶信息。

在這份《生物識(shí)別用戶隱私與安全保護(hù)倡議》中，支付寶呼吁企業(yè)在采集用戶生物信息時(shí)應(yīng)遵循“最小、夠用”的原則，防止被濫用。企業(yè)應(yīng)對(duì)采集到的信息進(jìn)行加密存儲(chǔ)來提高安全強(qiáng)度，也應(yīng)明確和規(guī)范用戶信息使用的目的及范圍，避免信息被過度使用。另外，在具體使用中也應(yīng)建立保險(xiǎn)機(jī)制來確保用戶資金不受損失。

8月31日晚，“ZAO”修改了此前的用戶協(xié)議，“免費(fèi)用用戶肖像權(quán)”內(nèi)容被刪。在協(xié)議開始，增加“特別提示”稱，用戶上傳的短視頻及人臉等相關(guān)的內(nèi)容將嚴(yán)格按相關(guān)法律法規(guī)的規(guī)定保留在“ZAO”上。“ZAO”表示，除非為了改善“ZAO”提供的服務(wù)或另行取得用戶的再次同意，否則“ZAO”不會(huì)以任何其他形式或目的使用上述內(nèi)容。【責(zé)任編輯/古飛燕】

來源：澎湃新聞

IT時(shí)代網(wǎng)(關(guān)注微信公眾號(hào)ITtime2000，定時(shí)推送，互動(dòng)有福利驚喜)所有原創(chuàng)文章版權(quán)所有，未經(jīng)授權(quán)，轉(zhuǎn)載必究。
創(chuàng)客100創(chuàng)投基金成立于2015年，直通硅谷，專注于TMT領(lǐng)域早期項(xiàng)目投資。LP均來自政府、互聯(lián)網(wǎng)IT、傳媒知名企業(yè)和個(gè)人。創(chuàng)客100創(chuàng)投基金對(duì)IT、通信、互聯(lián)網(wǎng)、IP等有著自己獨(dú)特眼光和豐富的資源。決策快、投資快是創(chuàng)客100基金最顯著的特點(diǎn)。

相關(guān)文章

新華社：AI"換臉"游戲時(shí)，你知道"丟臉"的后果嗎？

換臉軟件刷屏后隱私焦慮升溫：風(fēng)險(xiǎn)或在遠(yuǎn)程存照

AI換臉惹爭(zhēng)議，用戶隱私權(quán)不容侵犯