下一個被“AI分身”的，又會是誰？

采寫/一然 編輯/萬天南

11月2日，演員溫崢嶸竟在同一時間現(xiàn)身三個直播間。屏幕上分明都是她的臉，卻透著幾分詭異與諂媚，她一遍遍催促粉絲，“快下單！”

不明真相的粉絲，被“偶像”迅速“撬”開了錢包，殊不知，屏幕那端只是AI生成的幻影，一個沒有靈魂的數(shù)字傀儡。

溫崢嶸的遭遇，只是這場AI換臉侵權(quán)風暴的冰山一角。

從一線頂流到翻紅老戲骨，乃至奧運冠軍等，只要具備一定的辨識度和號召力，都可能成為“數(shù)字李鬼”的目標。這些AI仿冒明星賬號的粉絲量，從幾百、幾千甚至數(shù)十萬不等，構(gòu)成了一個金字塔式的灰色流量生態(tài)。

當AI技術(shù)開始掙脫法律和道德的韁繩，在現(xiàn)實和虛擬的夾縫中，我們該如何守護真實的邊界？鏈接可以下架，賬號可以被封禁，可一旦信任遭透支，又該如何贖回？

未來，我們每個人獨一無二的“數(shù)字身份”，是否都將淪為被隨意克隆、肆意濫用的獵物？

或許，明星們正在經(jīng)歷的今天，就是每個普通人即將面對的明天。

一

AI李鬼肆虐！明星集體“中招”

“對不起，溫崢嶸，是我們錯怪你了。”

鏡頭前，張柏芝面色凝重，對著鏡頭深深鞠了一躬。緊接著，劉濤、戚薇、舒淇等一眾女星也陸續(xù)出鏡，言辭懇切地表達著歉意和感謝。

這場看似真誠的“集體致歉”，在社交平臺迅速發(fā)酵。不少粉絲以為，這是明星之間的聯(lián)動，畢竟致歉的緣起，是溫崢嶸推薦的一款“人皮面膜”，讓眾女星感嘆“用晚了”。

可真相卻是，這場道歉的背后，竟藏著一場由AI編織的騙局。視頻中所有明星的人臉，均來自AI換臉技術(shù)盜用。

AI如同一個隱形的導演，將碎片化的影像剪輯、拼接，再配上偽造的臺詞，炮制出足以以假亂真的“集體致歉”，讓粉絲在不知不覺中掉入陷阱。

除了這類精心策劃的騙局，AI仿冒明星直播帶貨的亂像早已泛濫成災。

早在今年4月，溫崢嶸就曾發(fā)布打假視頻，對著鏡頭鄭重聲明：“我只有一個官方賬號直播，其他所有以‘溫崢嶸’之名帶貨的直播間，全是假的！”

彼時，她的聲明并未引起足夠的重視。

直到電視劇《許我耀眼》熱播，她憑借“趙露思婆婆”一角精湛的演技再度翻紅，冒用其形象賣貨的直播間也悄然增多。

其粉絲曾在一天之內(nèi)舉報了18個“假溫崢嶸”直播間，但往往“舉報一個又冒出來一個，如同打地鼠游戲，永無止境。”

更荒誕的是，某個深夜，“溫崢嶸”竟以三種不同妝發(fā)造型，同時出現(xiàn)在三個直播間。

當看見“自己”在直播間諂媚又怪異地催促粉絲，“寶貝們，快下單！”，她又驚又怒，直接質(zhì)問，“你是溫崢嶸，那我是誰？”結(jié)果卻被踢出了直播間并拉黑。

溫崢嶸的遭遇并非個例，如今越來越多明星淪為“數(shù)字李鬼”的獵物。

今年2月，北京市海淀區(qū)市場監(jiān)管局接到消費者舉報：某直播間正在售賣“深海多烯魚油”，主播竟是央視主持人“李梓萌”。

身穿職業(yè)套裝的“李梓萌”，語氣嚴肅地強調(diào)：“正品保證，假一罰四！魚油必須吃起來，吃了這個，別的咱都不用再吃了！”

直播間展板更赫然標注“適合頭暈頭痛、手腳麻木、記憶力下降人群”等醫(yī)療宣傳語。

其實，視頻中的“李梓萌”純屬AI技術(shù)偽造。宣稱“能治病”的深海魚油，執(zhí)行標準實為糖果，不具備任何治療功能。

這是北京查處的首例濫用AI技術(shù)發(fā)布虛假廣告案，而類似騙局早已在網(wǎng)絡(luò)空間蔓延。

有人在某電商平臺看見“迪麗熱巴”在賣10塊錢的素顏霜。奧運冠軍全紅嬋、孫穎莎、王楚欽等人，也都曾是AI克隆技術(shù)的受害者。

一個賬號盜用全紅嬋的聲音賣土雞蛋，視頻中模仿其稚嫩的腔調(diào)說道：“大家好，我是你們的嬋寶，今天有事請大家?guī)兔Γ瑡让镁褪窍霂椭鷭寢�，讓家里的生活過得更好一點。”

這條充滿“情感共鳴”的虛假視頻，點贊量高達1.1萬，商品鏈接顯示已售出4.7萬件。而全紅嬋的家人早已公開澄清，她從未為相關(guān)農(nóng)產(chǎn)品代言或授權(quán)。

這些“AI李鬼”，不僅盜用了明星的臉，更竊取了他們積累多年的公眾信任。而受損的，遠不止明星個人權(quán)益，更是整個社會賴以運轉(zhuǎn)的信任體系。

二

算法獵殺情感：AI仿冒背后的精準詐騙

“以前我們說‘眼見為實’，可現(xiàn)在眼睛看到的，可能是AI編織的謊言。”一位粉絲在經(jīng)歷了“假明星”騙局后，發(fā)出這樣的感慨。

“寶貝，我愛你們，我也好愛好愛這款面膜，快下單吧！”“克隆明星”的一聲聲呼喚，如同細密的針尖，精準刺入粉絲的情感軟肋。

“偶像推薦的東西肯定靠譜！”、“已經(jīng)下單了，支持偶像！”直播間滾動顯示的下單記錄，營造了一種“手慢無”的緊張搶購氛圍。

“這個AI仿冒的溫崢嶸把我媽騙得團團轉(zhuǎn)，買了一大堆廉價護膚品。”一位粉絲無奈吐槽。而另一位網(wǎng)友稱，為了支持“偶像”，一次性購買了5、6支低檔口紅。

“我一直覺得她說話怪怪的，眼神也特別呆滯，但我媽說這就是她的偶像，還說偶像親測有效了，非讓我?guī)退�下單。一款原價100多的韓國面膜，假直播間只賣39.8元，我媽一次就買了20盒。”一位網(wǎng)友爆料，母親已經(jīng)在假明星直播間陸續(xù)花了近萬元。

AI技術(shù)本無善惡，可當它被惡意使用時，便成了最精準的情感獵殺工具。對詐騙分子而言，聲音克隆、面部替換不過是技術(shù)手段，真正捕獲受害者的，是對人性弱點的精準拿捏。

而從各大平臺的評論區(qū)不難發(fā)現(xiàn)，受騙群體多以中老年人為主。

“我媽看見明星賣貨就想買，我告訴她是假的，她還跟我大喊大叫，說自己親眼看見的怎么會是假的。”一位網(wǎng)友的吐槽，道出了無數(shù)家庭的無奈。

但很多年輕網(wǎng)友坦言，自己也能理解父母被騙的遭遇。畢竟許多假冒明星的直播間，AI仿冒效果十分逼真，年輕人尚且難以分辨，何況是對AI技術(shù)認知較為薄弱的老年人，

早在5月份，就有細心的粉絲察覺異常：“我看見溫崢嶸在倆直播間同時直播，一個穿著藍裙子，有1萬多人在線，另一個有3000多人。我在人少的直播間說，你這肯定是假的，立馬就被踢出來了。”

但更多粉絲仍被“李鬼明星”所迷惑。

有的賬號通過AI換臉技術(shù)冒充楊冪、劉亦菲賣減肥茶，誘導消費者瘋狂下單。

在某平臺，一個昵稱像是亂碼的賬號，卻擁有3378個粉絲，并通過AI仿冒溫崢嶸帶貨視頻，獲得了10.3萬次點贊。該賬號的商品櫥窗僅陳列面膜、眼油、防曬等3個商品，已售件數(shù)高達5928單，跟買人數(shù)是5852人。目前，該賬號的作品及商品櫥窗均已清空。

《財經(jīng)故事薈》分析發(fā)現(xiàn)，仿冒賬號帶貨商品高度集中在化妝品、護膚品、保健品、日用品等高頻或者暴利品類，大多以“明星自用”為噱頭。

這些商品的共同特點是目標群體廣、利潤空間大、質(zhì)量難以直觀判斷，且極度依賴明星信譽背書，恰好契合了“AI仿冒”的詐騙邏輯。

三

平臺明星用戶都“受傷”

截至11月7日，在某平臺搜索“溫崢嶸”，仍可顯示近百個相關(guān)賬號。除個別授權(quán)“切片”賬號外，大多數(shù)已轉(zhuǎn)為私密狀態(tài)。

事實上，溫崢嶸團隊早在今年4月就啟動了維權(quán)，他們通過錄屏、截圖等方式保存證據(jù)，也曾投訴過50多個仿冒賬號，成功封停了至少20多個直播間。

其團隊工作人員坦言，造假者的成本極低，僅需截取一段影像，通過簡易工具就能生成虛假內(nèi)容，但維權(quán)取證卻需耗費大量精力，即便發(fā)送了律師函，目前調(diào)查到的也只是一部分造假商家。

侵權(quán)者的手段遠比想象中更為狡詐。許多賬號擅長“打時間差”，專挑凌晨3、4點這類平臺監(jiān)管薄弱的時間段進行直播，一旦賬號被封禁，立刻更換ID、頭像，借新賬號卷土重來。

而溫崢嶸為何遭遇如此多AI造假？

答案在于，除了近期翻紅之外，她本人就直播帶貨，這為造假商家提供了豐富“素材”。第三方直播監(jiān)測平臺數(shù)據(jù)顯示：溫崢嶸抖音賬號粉絲數(shù)385.8萬，今年以來共直播200多場，場均觀看人次近百萬，所售商品品類中，美妝護膚類占比54.19%。

而一份關(guān)于“溫崢嶸肖像權(quán)網(wǎng)絡(luò)侵權(quán)情況”統(tǒng)計表格顯示，其被侵權(quán)的產(chǎn)品也大多是化妝品，價格從300多到7.8元不等。

面對這場席卷而來的AI侵權(quán)風暴，平臺其實也是受害者。

抖音集團副總裁第一時間回應了“演員溫崢嶸被AI盜播帶貨”事件。據(jù)他澄清，“三個直播間同時開播”的案例并非發(fā)生在抖音平臺。

不過，AI內(nèi)容侵權(quán)識別是行業(yè)性技術(shù)難題，惡意仿冒賬號也在不斷地與平臺進行技術(shù)對抗。

面對AI克隆明星，抖音的出手是最快的。今年10月，抖音電商已啟動“仿冒名人宣傳”專項治理行動。截止目前，已處置1.1萬個違規(guī)帶貨賬號、6700多個違規(guī)商品，并對違規(guī)賬號，采取中斷其直播間、下架違規(guī)商品、凍結(jié)成交額等措施。平臺還引導多位達人開啟“阻止相同侵權(quán)內(nèi)容傳播”功能，已攔截數(shù)萬條侵權(quán)視頻。

但其他平臺，同樣存在AI克隆明星的侵權(quán)情況。

當信任被反復透支，當真實被不斷模糊，最終受損的，是整個數(shù)字生態(tài)的健康穩(wěn)定。

四

拆解AI換臉產(chǎn)業(yè)鏈

在小紅書的角落，一條僅一人點贊的帖子，卻隱藏著AI換臉交易的隱秘入口。帖子里是令人驚嘆的AI融合效果演示。

《財經(jīng)故事薈》以客戶身份咨詢：“你們這AI換臉技術(shù)是怎么操作的？怎么收費？”

等了一個多小時，對方回消息稱，“服務包含訓練人臉模型、遠程安裝調(diào)試，再加長期免費售后，一口價1980，永久使用。”

我們追問：“能用明星的臉嗎？”對方秒回：“可以，不加錢。”

對方承諾，付款后可獲得一男一女兩個演示模型和一個私人定制模型，模型訓練僅需2-3天，安裝當天即可完成，生成的“數(shù)字人”，不僅外形逼真，還能實時互動、直播帶貨。

再追問細節(jié)，對方突然警覺起來，未直接回答，反而甩過來一張圖片——一條空曠的公路，指示牌被P上了一行微信ID。緊接著又來一句：“換個地方聊吧。”

兩日后，對方通過微信好友申請，要求先支付500元定金，承諾模型訓練好之后可以部署至用戶電腦，教直播帶貨操作，但不負責引流。

對方還透露，若為MCN機構(gòu)操作多個賬號可優(yōu)惠，并提供兩個方案：一、技術(shù)買斷19800包售后，不限制賬號數(shù)量，但不建議多個賬號用同一張臉；二，按賬號計費，原價1980元，優(yōu)惠價1580元，并稱已與兩家傳媒公司達成合作。

某平臺上，多個已轉(zhuǎn)為私密狀態(tài)的明星關(guān)聯(lián)帶貨賬號，曾標注過同一MCN機構(gòu)�！敦斀�(jīng)故事薈》致電詢問合作，對方極為警覺，稱暫不合作，并粗暴掛斷電話。

當加其微信，表明“自家產(chǎn)的化妝品尋求克隆明星合作時”，對方卻未拒絕，也未詢問是否具備合格資質(zhì)，僅要求先看文字介紹。

《第一財經(jīng)》曾報道顯示，AI換臉的黑灰產(chǎn)業(yè)鏈已形成牟利閉環(huán)，涵蓋上游數(shù)據(jù)獲取、中游技術(shù)生成、下游場景應用及洗錢變現(xiàn)等環(huán)節(jié)。

上游通過爬蟲抓取、二手設(shè)備提取、音頻截取等方式，獲取受害者生活照、聲紋切片與3D頭模；中游包括通過技術(shù)手段實現(xiàn)人臉替換、動態(tài)驅(qū)動、對抗檢測等；下游則將這些“數(shù)字李鬼”應用直播帶貨、詐騙勒索、虛假宣傳等違法行為。

在閑魚上，人臉識別教學視頻+人臉提取業(yè)務售價僅49.9元。但賣家在商品詳情頁標注，“需確保素材不侵權(quán)，小鋪不承擔非法使用責任。”將風險完全轉(zhuǎn)移給買家。

某購物平臺，雖無法通過“AI換臉”搜到商品，但通過“定制視頻”等隱蔽關(guān)鍵詞，仍能找到出售換臉軟件，及定制服務的賣家。

除了換臉工具，批量生產(chǎn)的虛假內(nèi)容也在暗中流通。

《財經(jīng)故事薈》調(diào)查發(fā)現(xiàn)，某平臺商家出售AI明星語音包、視頻合成服務。部分商家甚至打出“定制明星祝福視頻，真人語音，最低50元起。”

當詢問能否定制一段“楊冪祝福生日”視頻，對方爽快回應：“可以。100字50秒450元，30字左右250元，若加急，則需要300元。”該店鋪僅有203個粉絲，卻已售出1533件商品。其中“定制明星視頻”鏈接顯示，已售出21件。

最荒誕的是，這條灰色產(chǎn)業(yè)鏈還衍生出了“局中局”。

一些不法分子售賣“AI克隆直播引流教程”，但有網(wǎng)友爆料，所謂AI數(shù)字人直播課程，根本就是一場騙局。對方先以“羅永浩做數(shù)字人直播”的案例誘其入局，再要求交298元試學7天課程，結(jié)果3天過去了，什么有用內(nèi)容也沒教。

最具諷刺意味的是，他們展示的“學員答謝視頻”，竟也是AI生成的虛假內(nèi)容。

盡管，《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》及《生成式人工智能服務管理暫行辦法》已陸續(xù)出臺，但在執(zhí)行層面仍面臨挑戰(zhàn)。

AI數(shù)字人虛假營銷，涉及技術(shù)提供方、內(nèi)容生成者、直播平臺、商家等多個環(huán)節(jié)，現(xiàn)有法律并未清晰劃定各方責任，給維權(quán)帶來極大難度。

今年9月1日，《人工智能生成合成內(nèi)容標識辦法》正式施行，要求所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。但在實踐中，平臺審核海量內(nèi)容難免疏漏、商家刻意規(guī)避標識等現(xiàn)象，使新規(guī)落地效果大打折扣。

面對日益精進的AI技術(shù)，我們只能先掌握一定的識別技巧。例如，AI換臉視頻可能存在細微的不自然之處，如面部表情僵硬、眨眼頻率異常、光線與面部不協(xié)調(diào)等微小破綻。同時，務必保護好個人身份信息，不隨意上傳手持身份證照片或視頻。若發(fā)現(xiàn)信息被冒用或遭遇可疑詐騙，第一時間保存證據(jù)并報警。

對于消費者而言，選擇正規(guī)渠道和官方認證賬號是避免受騙的重要方式。在觀看明星直播間時，應認準明星的官方賬號，特別是帶有加V認證的賬號。

技術(shù)是一面鏡子，照出了使用者的良知與底線。

當AI以極低成本復制一個“明星”，當信任成為可以量化的收割工具，我們面臨的不僅是法律的漏洞，更是人性與科技的博弈。

未來，唯有讓法律跟上技術(shù)的腳步，讓平臺扛起監(jiān)管的責任，讓個體提高警惕，或許才能在這場洶涌的AI浪潮中，守護住那個不被復制的、獨一無二的“我”。

END

       原文標題 : AI換臉第一刀砍向明星，楊冪全紅嬋都中招