制作、傳播、教學(xué)……“AI換臉”背后藏著的“生意”

如今，“AI(人工智能)換臉”圖片和視頻成為熱門(mén)現(xiàn)象。娛樂(lè)之余，讓人真假莫辨，風(fēng)險(xiǎn)與困擾也不少。記者調(diào)查發(fā)現(xiàn)，屢被曝光的“AI換臉”背后，從傳播到制作再到后端環(huán)節(jié)，幾乎都藏著生意。當(dāng)前，包括網(wǎng)絡(luò)平臺(tái)、通信公司在內(nèi)，已有一些技術(shù)和措施識(shí)別“換臉”，但也面臨著“矛與盾”的考驗(yàn)。

傳播

“換臉”名人短視頻流傳甚廣

“AI換臉”視頻碰瓷他人尤其是名人，屢屢引發(fā)關(guān)注。前段時(shí)間，“張文宏醫(yī)生帶貨蛋白棒”讓不少人信以為真，引得當(dāng)事人出面辟謠和譴責(zé)。記者調(diào)查發(fā)現(xiàn)，眼下依舊有一些“換臉”名人的視頻流傳。

“咽炎看著多簡(jiǎn)單啊，能治嗎？”“高血壓能治嗎？”一個(gè)封面為“白巖松談健康 《驚人的超慢跑》”的短視頻，用知名主持人白巖松的圖片、聲音配以文字解說(shuō)。短短幾秒鐘的人臉視頻，畫(huà)面一閃而過(guò)，很難分辨真假。緊接著，一位AI配音的女解說(shuō)順著“白巖松”的話(huà)，表示“跑步中的超慢跑，更是適合中老年人……”這條視頻由一位跑步博主發(fā)出，獲得數(shù)十次轉(zhuǎn)發(fā)和點(diǎn)贊。

一則推薦書(shū)籍的短視頻，出鏡的“李玲”教授面部表情和唇語(yǔ)，同樣被“AI換臉”。事實(shí)上，這名教授在今年9月就發(fā)表聲明稱(chēng)，自己已經(jīng)報(bào)警，“網(wǎng)上大量假冒本人推銷(xiāo)醫(yī)藥書(shū)籍和治療手段的虛假視頻，大多是人工智能AI合成……”盡管當(dāng)事人聲明已報(bào)警，但平臺(tái)上這則“換臉”視頻依舊存在。記者注意到，發(fā)布這則短視頻的博主，總共發(fā)布了20條原創(chuàng)內(nèi)容，最多的一條短視頻點(diǎn)贊為7000多次。

此前，“AI換臉”還曾冒充雷軍、靳東等人士。類(lèi)似“AI換臉”視頻之所以存在且能較快較廣地傳播，不同領(lǐng)域的博主賬號(hào)和相關(guān)平臺(tái)是重要因素。

制作

生成一條視頻只需幾十元

“AI換臉”的圖片或視頻在各平臺(tái)傳播，起源又是哪里呢？調(diào)查發(fā)現(xiàn)，如今“換臉”這項(xiàng)業(yè)務(wù)產(chǎn)業(yè)成熟，既有相關(guān)軟件售賣(mài)，也有現(xiàn)成制作服務(wù)提供商。而制作合成一張臉或一段視頻，價(jià)格低至幾元幾十元。

在網(wǎng)絡(luò)搜索“AI換臉軟件”，很快就彈出不同開(kāi)發(fā)版本的軟件平臺(tái)。一家“一站式AI創(chuàng)作平臺(tái)”，可提供的服務(wù)包括圖片換臉、視頻換臉、多人換臉。以圖片換臉為例，上傳模板圖、人臉圖，選擇清晰度等指標(biāo)，就可“一鍵”換臉。而視頻換臉，除了可選擇清晰度，還有“人臉增強(qiáng)”功能。視頻換臉的套餐體驗(yàn)價(jià)為59元，最多可生成25個(gè)視頻。軟件頁(yè)面下方，則用小字提醒，“僅供娛樂(lè)學(xué)習(xí)，嚴(yán)禁上傳非法照片和用于非法用途?！?/p>

在線使用“換臉”軟件之外，還有售價(jià)更便宜的軟件包出售。記者輾轉(zhuǎn)聯(lián)系上一位賣(mài)家，其出售的換臉軟件，通過(guò)網(wǎng)盤(pán)發(fā)貨，可在手機(jī)和電腦端安裝使用，“視頻和照片皆可替換，滿(mǎn)足各類(lèi)換臉需求，并且完全免費(fèi)。”價(jià)格只要1元錢(qián)，“就賺個(gè)信息差”。記者購(gòu)買(mǎi)發(fā)現(xiàn)，網(wǎng)盤(pán)中包含了適用不同系統(tǒng)電腦的換臉軟件、注意事項(xiàng)，以及具體使用教程等資料。

如果不想耗神費(fèi)力制作，也可以在電商平臺(tái)花錢(qián)請(qǐng)人制作“換臉”成品。為了躲避電商平臺(tái)關(guān)鍵詞識(shí)別，一位賣(mài)家打出“AI換lian”的廣告，宣稱(chēng)(質(zhì)量)遠(yuǎn)超市面上99%替換效果，“小本生意，做好不退，其他懂的都懂。”至于價(jià)格，單張“換臉”圖片為5元，幾分鐘就可以完成。一段5秒內(nèi)“換臉”視頻為9.9元，10秒內(nèi)“換臉”視頻為19.9元，1分鐘“換臉”視頻則為80元。相比“換臉”圖片，視頻生成時(shí)間久一點(diǎn)，一般數(shù)小時(shí)內(nèi)也能完成。

生意

引流賣(mài)書(shū)帶貨甚至搞詐騙

“AI換臉”的圖片和視頻為什么屢屢出現(xiàn)？調(diào)查發(fā)現(xiàn)，相關(guān)軟件資源門(mén)檻低、易獲取是一個(gè)原因，但背后的生意“算盤(pán)”，也是重要原因。

如前所述，“白巖松”帶貨的AI合成短視頻左下角，就掛著“《驚人的超慢跑》6本套裝”商品鏈接。點(diǎn)擊后發(fā)現(xiàn)，這套書(shū)還打出了“央視推薦”字樣，商品評(píng)價(jià)達(dá)到7200多條?！拔乙屍胀ɡ习傩?，也要看到這本書(shū)。不過(guò)庫(kù)存不多了，大家抓緊下單這本書(shū)?！崩盍峤淌诘摹皳Q臉”視頻下方，同樣掛著圖書(shū)商品鏈接。頁(yè)面顯示，這套書(shū)已售出近1100本。

推廣商品賣(mài)貨之外，另一種手段，則是通過(guò)打著“科普”“教程”“教學(xué)”AI換臉的名義，來(lái)引流用戶(hù)到私域開(kāi)課賺錢(qián)。在一些平臺(tái)，能搜索到大量諸如“高精度AI換臉，全網(wǎng)最詳細(xì)教程”“AI換臉最新版喂飯級(jí)使用教程”的視頻資料。記者注意到，有的博主本身就在開(kāi)展AI教學(xué)培訓(xùn)業(yè)務(wù)，且留下了合作聯(lián)系方式。

某短視頻平臺(tái)相關(guān)負(fù)責(zé)人介紹，平臺(tái)劃定的AI創(chuàng)作“禁區(qū)”中，就包括生成精英人士、虛假人設(shè)，利用多種手段低質(zhì)吸粉甚至引流到站外以賣(mài)課、入群等方式獲利。

生意算盤(pán)之外，“AI換臉”的圖片或視頻，也滋生出諸如詐騙等違法犯罪風(fēng)險(xiǎn)。前不久，豐臺(tái)方莊街道某社區(qū)就成功攔截了一起涉及AI換臉技術(shù)的詐騙案件。當(dāng)時(shí)，詐騙分子通過(guò)精巧的手段，假冒馬云的身份，試圖誘導(dǎo)一位老人購(gòu)買(mǎi)保健品。最終，在社區(qū)工作者與民警的及時(shí)干預(yù)下，犯罪行為被識(shí)破。但在山東淄博，一名82歲的老人近期則被“AI外孫”騙走了32.6萬(wàn)元。

提醒

技術(shù)“打補(bǔ)丁” 防范多警惕

如今有的品牌手機(jī)自帶了“AI換臉”識(shí)別功能，也有互聯(lián)網(wǎng)平臺(tái)強(qiáng)化識(shí)別手段和處罰措施?？蔀楹巍皳Q臉”還是層出不窮，“換臉”騙局能被技術(shù)有效攔截嗎？

“‘AI換臉’的技術(shù)日益成熟，獲取使用的門(mén)檻低。我們?cè)鴮?zhuān)門(mén)做過(guò)AI換臉實(shí)驗(yàn)，不論圖片還是視頻，非常容易實(shí)現(xiàn)且很逼真?！本W(wǎng)絡(luò)安全研究專(zhuān)家、北京漢華飛天信安科技有限公司總經(jīng)理彭根介紹，這主要是因?yàn)楦黝?lèi)“換臉”軟件或程序是開(kāi)源性質(zhì)，“幾乎誰(shuí)都可以用，相當(dāng)于裝個(gè)軟件?！?/p>

對(duì)于“AI換臉”帶來(lái)的風(fēng)險(xiǎn)，彭根認(rèn)為既有個(gè)人隱私泄露、被造謠的情形，也有詐騙、敲詐犯罪等風(fēng)險(xiǎn)。對(duì)于普通人來(lái)說(shuō)，識(shí)別“AI換臉”難度很大，但可以仔細(xì)觀察畫(huà)面邊緣的覆蓋、貼合和畫(huà)質(zhì)，是否有所謂“算法跳動(dòng)”。如果懷疑遭遇“換臉”聊天騙局，則可要求對(duì)方進(jìn)行較大幅度的低頭、扭頭等動(dòng)作，以及用“對(duì)暗號(hào)”等手段，觀察識(shí)別。不輕信不轉(zhuǎn)賬，如果發(fā)現(xiàn)被“換臉”詐騙，要第一時(shí)間報(bào)警。

北京日?qǐng)?bào)客戶(hù)端|記者 李松林 美編 宋溪