1.林俊杰把B站和UP主告了，就因為UP主用AI換臉技術(shù)制作了大量林俊杰的鬼畜視頻。

2.AI換臉有多簡單，騙過App人臉識別系統(tǒng)的成本有多低，才讓這種現(xiàn)象如何猖獗？

3.其實，不僅明星忌憚，普通人也深受其害。江蘇一小伙因為好奇跟騙子“過招”，結(jié)果一露臉就被騙子偽造了“裸聊視頻”，只能乖乖交了11萬。

AI換臉有多逼真？最深受其害的明星終于忍受不了了！

就在幾天前，B站（嗶哩嗶哩）和B站上的一個UP主被林俊杰告了，而且林俊杰勝訴了。目前這位UP主需要向林俊杰賠償27.5萬元，原因是這位UP主用AI換臉技術(shù)制作了大量林俊杰的鬼畜視頻，從而侵犯了林俊杰的肖像權(quán)。

圖源：天眼查

林俊杰不是第一個因AI起訴的明星，也絕不是最后一個。

與明星相比，更慘的是普通老百姓。明星可以靠自己身上的光環(huán)，吸引全社會關(guān)注，而當普通人的臉被“偷”走了，他們該怎么辦？在千千萬萬普通人的生物信息被利用之后，一條流傳、販賣個人隱私的鏈條正在暗處肆意生長。

圖源：網(wǎng)絡(luò)

01 明星頻中招

早在2019年，國內(nèi)就掀起了一股“換臉”風潮。

B站UP主“換臉哥”將94版《射雕英雄傳》影視片段中演員朱茵的臉替換成楊冪，迅速在網(wǎng)上發(fā)酵并引發(fā)爭議，B站視頻截至刪除前點擊量超20萬，微博話題閱讀量1.3億。

這次惡搞林俊杰的視頻也來自于B站，B站的鬼畜區(qū)是“換臉重災(zāi)區(qū)”之一。《IT時報》記者打開B站搜索“換臉”，出現(xiàn)數(shù)千個相關(guān)視頻，包括“宋小寶換臉彭于晏”“賈玲和沈騰版女兒國橋段”“復(fù)仇者聯(lián)盟演起武林外傳”等。除了在特寫鏡頭時，會出現(xiàn)膚色、光影等細微瑕疵，這些換臉視頻整體看上去幾乎以假亂真，將偶像的臉換到相應(yīng)角色中成為網(wǎng)友的搞怪“新口味”。

圖源：Bilibili

就在林俊杰狀告B站UP主之前，8月28日，藝人劉昊然的工作室也發(fā)布聲明稱，有人利用AI換臉技術(shù)傳播對劉昊然帶有侮辱性的視頻、截圖，同時還含有誹謗言論的聊天記錄。該工作室表示，今年1月就曾被惡意傳播，目前已向警方報案。

據(jù)外媒報道，海外明星同樣深受其擾，泰勒·斯威夫特、艾瑪·沃特森等多位女演員也曾被換臉成為不雅影片的女主角。

02 “換”起來很簡單

為何AI換臉技術(shù)的聲勢如此浩大？原因在于技術(shù)成本和經(jīng)濟成本的門檻都不高。

不需要先進的裝備，只要一個軟件就可以。比如陌陌旗下的“ZAO”就因為人臉合成視頻火爆一時，只需要上傳一張自己的照片就可以把自己的臉換到一位明星的頭上，融合效果非常好，但這款軟件沒紅多久就因為隱私、倫理等問題備受輿論的詬病。

在B站上，除了有UP主自制的換臉視頻之外，換臉教程也是受到歡迎的熱門內(nèi)容之一，點擊量最高的超過20萬。

《IT時報》記者在QQ群里搜索“換臉”，相關(guān)群有數(shù)百個，熱度最高的一個群以定制視頻換臉、圖片換臉等為主要業(yè)務(wù)，群成員接近400人，并且開發(fā)了QQ小程序“八零換臉”和微信小程序“換臉變裝秀”。

圖源：QQ

03 騙過肉眼

低成本、低門檻地獲取和運用，讓不法分子打起了“AI換臉”詐騙的主意。近來，有不少關(guān)于“人臉識別”的案例。

南京警方曾接到小李（化名）報警稱，被詐騙3000元。小李介紹，大學同學通過QQ向她借錢，對方打過來一段四五秒的視頻電話，小李看到確是本人，便放心轉(zhuǎn)賬。但在第二次轉(zhuǎn)賬時發(fā)現(xiàn)異常，再次撥通對方電話才得知同學的賬號被盜。警方判斷，那段視頻很有可能被人換了臉。

江蘇常州一90后小伙因好奇和騙子“過招”被騙11萬，小伙子明知可能遇到了裸聊騙局，但出于好奇想看看騙子是怎樣實施詐騙的。結(jié)果只因露了一下臉，就被騙子的AI換臉技術(shù)坑了。騙子給他AI換臉偽造了一段“裸聊視頻”，告知如果不“花錢消災(zāi)”，就讓他抬不起頭。無奈小伙將僅有的11萬元全部轉(zhuǎn)賬后，騙子才罷休。

04 逃過系統(tǒng)

對普通人來說，大家都是肉眼凡胎，AI換臉后得到的視頻確實真假難辨，但更吊詭的是，如今一些需要人臉識別的App也可能被一張會動的“假臉”所蒙蔽，AI換臉可以騙過開卡環(huán)節(jié)中的人臉識別系統(tǒng)。

據(jù)媒體報道，近日，上海市虹口區(qū)人民檢察院通報了一起利用人臉識別技術(shù)，為他人開具增值稅普通發(fā)票價稅合計超過5億元的案例。犯罪分子通過相關(guān)政務(wù)平臺完成注冊“皮包公司”，通過平臺上人臉識別是注冊成功的關(guān)鍵環(huán)節(jié)。

應(yīng)用商店里的“活照片App”

據(jù)犯罪團伙中專門從事人臉識別破解的成員表示，一般先從他處以每個30元的價格購買他人的高清頭像和身份證信息，再利用“活照片”等App對高清頭像進行處理，讓照片“動起來”，形成包括點頭、搖頭、眨眼、張嘴等動作視頻，騙過平臺人臉識別驗證系統(tǒng)。據(jù)犯罪分子交代，其破解的App涉及政務(wù)、安防、金融、支付、生活消費等，這些App在大多數(shù)應(yīng)用市場都可以下載。最終，涉案人員因犯侵犯公民個人信息罪被追究刑事責任。

05 App活體檢測標準有待提高

互聯(lián)網(wǎng)上充斥著大量的人臉和身份信息，這些信息為犯罪分子提供了“養(yǎng)分”，而一些App對技術(shù)的把關(guān)不嚴則又為虎作倀。

極棒實驗室安全研究員宋宇昊曾經(jīng)做過此類實驗，通過破解可以騙過一些App的人臉識別系統(tǒng)。

“技術(shù)上并不難，先選取一張要偽造的人的照片，提供給特定的avatarify的AI程序，隨后攻擊者用連接著該AI程序的攝像頭對著自己，自己根據(jù)App人臉識別的提示進行眨眼、張嘴等動作，照片就會跟著攻擊者同步學習這些動作，從而騙過一些App的人臉識別系統(tǒng)。”宋宇昊告訴《IT時報》記者，現(xiàn)在能被破解的App多數(shù)采用識別表情動作的方式來做活體檢測，這是比較容易被破解的。

宋宇昊還表示，一些安全做得好的廠商改進了活體檢測技術(shù)，破解就有難度了。“比如像進行隨申碼等人臉識別驗證時，會有紅綠藍光在人臉周邊閃爍，這種就比較難破解了。”

據(jù)了解，有的光主要捕獲摩爾紋、反光、人臉畸變等信息，有的光則捕捉手機邊界、紙張邊界等明顯攻擊信息，還有的光捕捉相關(guān)背景信息。

圖源：東方IC

技術(shù)的不斷迭代，讓通過“深度偽造”技術(shù)制造出人類用肉眼無法識別的“假臉”成為可能，數(shù)據(jù)隱私、技術(shù)濫用等引發(fā)的安全問題愈演愈烈將為社會公共治理帶來嚴峻挑戰(zhàn)。對于人臉識別的發(fā)展，有專家用“泛濫成災(zāi)”來形容。

清華大學法學院長聘教授勞東燕曾對媒體表示，人臉識別應(yīng)用的最大獲益者不是普通的用戶或消費者，而是給企業(yè)、產(chǎn)業(yè)界、相關(guān)部門帶來便利，企業(yè)獲得盈利，相關(guān)部門在管理上更加方便，但卻把風險主要轉(zhuǎn)嫁給了作為用戶的個人，這對普通社會公眾來講并不公平，推廣人臉識別技術(shù)應(yīng)當持謹慎態(tài)度。

業(yè)內(nèi)人士建議，監(jiān)管方可以推出App活體檢驗的技術(shù)標準和門檻，特別在金融等與個人財產(chǎn)相關(guān)領(lǐng)域防范偽造假臉帶來的財產(chǎn)損失。

本文來自微信公眾號“IT時報”（ID：vittimes），作者：潘少穎 江麗雯，編輯：王昕 挨踢妹，36氪經(jīng)授權(quán)發(fā)布。