證券時報網(wǎng)
吳曉輝
2024-12-23 17:05
王順聽從對接人員的安排，在家中用攝像頭對準(zhǔn)電子鐘。右圖為數(shù)字人主播在直播間里的畫面。 受訪者供圖
2023年4月，胡永林參加招商會，宣講人不斷講述數(shù)字人直播的市場前景。 受訪者供圖
短視頻平臺上關(guān)于“數(shù)字人主播”的宣傳，其中多數(shù)為數(shù)字人軟件商家在引流。短視頻平臺截圖
數(shù)字人軟件公司的對接人員告訴王順，他們的數(shù)字人軟件可以在所有主流平臺上直播。 受訪者供圖
“歡迎用戶2176來到咱們的直播間?！?/p>
王順的數(shù)字人“主播”正在“直播”。識別到有用戶進入，身穿白色裙子、黑色口罩特效遮住了半張臉的“主播”，生硬、機械地念出這句歡迎詞。
這是12月初，王順花費1980元購買的數(shù)字人主播，這曾是他眼中的新風(fēng)口。在他的設(shè)想中，這位省心省力的“主播”可以24小時不停播，隨時回答直播間觀眾的提問，銷售商品為自己帶來利潤。
“實際上聽起來像商場里的樓層指引機器人。”幾乎是在開播后，王順就意識到自己可能被騙了，直播間的畫質(zhì)模糊，看不清“主播”的表情?！爸鞑ァ钡膭幼骱彤a(chǎn)品介紹話術(shù)不斷重復(fù)，不僅語調(diào)單一、缺乏節(jié)奏感，也無法直接與觀眾互動。
伴隨著人工智能的興起，數(shù)字人直播帶貨也一時成為風(fēng)口。但新京報記者調(diào)查發(fā)現(xiàn)，該新興行業(yè)目前魚龍混雜。
有軟件商對數(shù)字人直播效果及能產(chǎn)生的盈利夸大其詞，用戶花高價買入后發(fā)現(xiàn)效果不盡如人意，還會被平臺監(jiān)測到“非實時直播內(nèi)容”或低質(zhì)量內(nèi)容封禁，售后無門；有不法分子盜用他人的身份信息進行數(shù)字人制作；也有人以數(shù)字人直播為噱頭，招募聯(lián)合運營商聲稱可以分傭，實則冒充平臺認(rèn)可的有分傭資質(zhì)的第三方服務(wù)商；更有數(shù)字人推廣者采用傳銷的模式，發(fā)展下級代理獲取利潤，可能存在非法集資、詐騙、非法傳銷等刑事風(fēng)險。
張家港公安局曾針對“AI數(shù)字人直播教學(xué)”發(fā)布風(fēng)險提示，不法分子以“AI數(shù)字人直播教學(xué)”為由實施詐騙，不少群眾因此上當(dāng)受騙。警方提示，廣大群眾要謹(jǐn)慎辨別真?zhèn)危苑郎袭?dāng)受騙。
新京報記者李聰
“24小時自動直播”
王順是個業(yè)余主播。他的主業(yè)是婚紗攝影相關(guān)工作，副業(yè)運營著一家電商店鋪，銷售戒指、手鏈等飾品。每天晚上下班后他會直播兩個小時，觀看人數(shù)從幾十人到百人不等，平均每天能有三百元左右的銷售額。
有限的成交量令王順時常思考如何能給直播間引流。今年以來，他看到社交平臺上關(guān)于數(shù)字人直播的宣傳鋪天蓋地，“24小時自動直播”“一位全天候工作的數(shù)字助手”“你在睡覺，數(shù)字人給你掙錢”。起初他半信半疑，但宣傳中的效果又讓他隱隱心動。
12月初，他在刷短視頻時偶然點贊了一個介紹數(shù)字人的視頻，馬上有人私信他，希望向他詳細(xì)介紹產(chǎn)品。在對方發(fā)送的多個案例里，王順看到數(shù)字人主播的表現(xiàn)堪稱完美，不僅有流暢的表達、精準(zhǔn)的介紹、自然的停頓，還有微笑等面部神情和眼神交流，以及低頭看資料等豐富的動作。
最吸引王順的是“1980元就能獲得軟件永久使用權(quán)”。銷售人員表示，“價格真不高，別說永遠使用，就算你用一年，一天才幾塊錢?！彼麄儚娬{(diào)自己是正規(guī)軟件公司，后期不會有任何隱形消費，有一對一搭建指導(dǎo)，開播后還會陪跑一年，隨時有老師能聯(lián)系。另外，對方還提到，等王順學(xué)會這套系統(tǒng)后，可以賣數(shù)字人直播軟件賺錢。
當(dāng)王順問到能在哪些平臺使用以及是否有封號的風(fēng)險時，對方回復(fù)“目前所有的主流直播平臺都可以播，賬號封禁、不能使用的，我們公司目前一例都沒有?！痹跊]有先試用、也沒有查詢這家公司資質(zhì)的情況下，王順?biāo)斓馗读隋X。
付費后，對接人員通過遠程控制王順的電腦開始搭建直播間。先是在數(shù)字人軟件內(nèi)置的通用數(shù)字人模型中選擇形象和聲音，將王順提供的產(chǎn)品介紹文案導(dǎo)入，并設(shè)置直播間的虛擬背景圖片。王順則聽從對接人員的安排，在家中掛起一塊綠布，桌上擺好電子鐘，再打開對著電子鐘和綠布的高清攝像頭。
王順的數(shù)字人主播“上崗”了。直播間里能看到，“主播”站在直播間，使用黑色口罩特效遮住半張臉，身后有一株插花作為裝飾，背景為王順賬號的名稱，左下角播放著工匠制作飾品的視頻。而電子鐘則被放置在畫面的右下角落里。
對接人員告訴他，使用口罩特效是為了避免系統(tǒng)監(jiān)測到口型不自然，直播半小時后監(jiān)測不到就可以摘了；利用綠幕技術(shù)將電子鐘與數(shù)字人直播場景融合，也是為增加直播間的真實感。目的都是為了開播初期讓平臺監(jiān)測不到是數(shù)字人在直播。
然而，王順看到，自己的這位“主播”跟對方之前發(fā)送的案例差距很大。還來不及考慮數(shù)字人軟件“貨不對板”的問題，王順要出門上班，留“主播”在家自己播。
到達辦公室后，王順用手機查看直播發(fā)現(xiàn)，開播將近一小時，除了自己和對接人員，直播間里幾乎沒有一個觀眾，后半段直播間人數(shù)為0，連對接人員都不在了。同事們觀看后也說那是一眼就能看出僵硬、沒有表情的假人，還沒有王順自己播得好。
最終，王順主動結(jié)束了這場直播。在開播的一個半小時里，主播的口罩特效一直沒能去掉，這場直播不僅沒有帶來收益，而且?guī)缀鯚o人停留在他的直播間。
感覺上當(dāng)?shù)耐蹴樔フ覍尤藛T退款，對方則稱還可以慢慢優(yōu)化。反復(fù)交涉無果后，對方不再回復(fù)王順的信息。
多個平臺認(rèn)定數(shù)字人質(zhì)量低、內(nèi)容單一
于捷是一家頭部數(shù)字人服務(wù)商的產(chǎn)品運營，這家公司目前只從事TOB（面向企業(yè)）的產(chǎn)品定制服務(wù)。她介紹，在公司訂購數(shù)字人的客戶分為兩類，一類是用于本地生活服務(wù)，銷售餐飲券、門票等，希望達成24小時直播；另一類是用于企業(yè)宣傳。
“內(nèi)容豐富度單一”，于捷認(rèn)為，這是數(shù)字人直播目前無法解決的缺陷。
比如前期坐著錄制的數(shù)字人，在直播時不可能突然站起來跟消費者聊幾句。無論給的文案多豐富，只要長時間循環(huán)播放就會造成重復(fù)，進而被平臺判定為低質(zhì)量內(nèi)容或互動不足，這也是一些直播間容易被封掉的原因。對于不長時間停留在直播間的人來說，可能很難區(qū)別出不同?！暗珨?shù)字人直播的邏輯是前一個循環(huán)接下一個循環(huán)，中間一定會有不自然的動作銜接?！?/p>
她提到，直播中的交互，是運營人員提前準(zhǔn)備題庫，觸發(fā)關(guān)鍵詞后，直接從題庫里選取答案，讓數(shù)字人念出來，題庫中沒有的內(nèi)容，數(shù)字人也說不出來，真正具備自動對話功能的數(shù)字人很少。
除了自身技術(shù)的問題，各大互聯(lián)網(wǎng)平臺對數(shù)字人直播的態(tài)度呈現(xiàn)出明顯的分化。“不同電商平臺在數(shù)字人直播帶貨上呈現(xiàn)出不同的態(tài)度，其實反映了他們在生態(tài)建設(shè)上不同的戰(zhàn)略和發(fā)展方向?！彪娮由虅?wù)交易技術(shù)國家工程實驗室研究員趙振營在接受《中國經(jīng)營報》記者采訪時提到。
比如在部分電商平臺上隨處可見數(shù)字人直播，而一些平臺則規(guī)定，直播過程中使用非實時直播內(nèi)容或道具代替真實直播的行為都是“非真實直播”，屬于“低質(zhì)量內(nèi)容”，使用插件、AI等工具生成虛擬形象進行直播是典型的違規(guī)行為。
多個平臺將數(shù)字人歸結(jié)于低質(zhì)量單一的內(nèi)容，于捷表示認(rèn)可。她表示，只要平臺想封，使用者就完全沒有辦法，只能換號，或者等封禁時間過了再重新開播。
于捷總結(jié)，以內(nèi)容為導(dǎo)向的平臺出于維護社區(qū)優(yōu)質(zhì)內(nèi)容的導(dǎo)向會加以限制，而電商等以賣貨為導(dǎo)向的平臺則更注重成交量，相對寬松。
也因此，和平臺斗智斗勇，想方設(shè)法避免直播時被封號，是數(shù)字人產(chǎn)品運營的重要工作。于捷介紹，他們會針對每一個平臺制作精細(xì)化的防風(fēng)控手冊。形式上可以在直播間配置中多開幾個攝像頭和麥克風(fēng)，盡管這些攝像頭沒有實際畫面，可以放在直播畫面最下端，把虛擬主播放在最上面，以達到欺騙平臺監(jiān)測系統(tǒng)有實際開播的作用。內(nèi)容方面則會使用人工智能生成大量不一樣的話術(shù)。
至于數(shù)字人直播帶來的收益，于捷提到，像銷售美食套餐沒什么特別的影響，但只要是需要主播加持的帶貨，銷量就比較慘淡。
一位女裝主播闞闞也認(rèn)同這樣的說法。早在2022年，闞闞就考察過數(shù)字人直播，她除了好奇，也在思考自己是否有被替代的可能性，當(dāng)時的數(shù)字人市場價格混亂，從數(shù)萬元到千元不等，她沒敢投入。直到今年上半年，闞闞花費2000元購買了朋友推薦的一款軟件，她只運用在短視頻創(chuàng)作中代替自己出鏡幾秒鐘，新鮮兩個月后，現(xiàn)在已經(jīng)棄用。
她直言，直播間里引流本身就很難，真人在直播中又哭又鬧都沒有流量，用一個毫無感情的假人更沒有流量。在她看來，直播帶貨是“人貨場”缺一不可，“如果數(shù)字人直播都有流量，那屬于貨帶人，換個動物來也行。”
風(fēng)口下的收割
即便在業(yè)內(nèi)人士看來，數(shù)字人技術(shù)和應(yīng)用層面撕裂，普通商家很難從中獲利，但數(shù)字人市場在近幾年已成風(fēng)口。根據(jù)艾媒咨詢數(shù)據(jù)顯示，2022年，該行業(yè)的市場規(guī)模已達到120.8億元，預(yù)計到2025年，虛擬數(shù)字人的核心市場規(guī)模將達到480.6億元。
新京報記者發(fā)現(xiàn)，當(dāng)前數(shù)字人產(chǎn)業(yè)鏈中，中小商家似乎成為了被收割的對象，銷售軟件的公司則借此機會獲得豐厚的收益。更有甚者，利用“數(shù)字人”的概念進行詐騙。
家住鄭州的胡永林一度也覺得自己能夠站上風(fēng)口。
2023年4月底，胡永林收到一通自稱是某平臺合作商的電話，邀請他參加一個關(guān)于數(shù)字人直播的招商會。招商會離家很近，他出于好奇便去了現(xiàn)場。這場會議介紹的是位于廣州的一家科技公司，胡永林看到，大約300人參與，多為商務(wù)人士。
在招商會上，胡永林聽到一樁看似很合理的生意：與這家公司合作，以第三方服務(wù)商的身份，向本地餐飲等生活服務(wù)的商家銷售數(shù)字人直播軟件，并協(xié)助商家入駐該平臺，搭建數(shù)字人直播間銷售團購券。此后商家每核銷一張團購券，自己都能分到傭金，另外邀請新商家入駐還有額外的獎金。
換句話說，成為這家科技公司的代理商，在線下銷售數(shù)字人直播軟件，并讓商家利用數(shù)字人直播銷售團購券，就能從中賺取傭金?！吧碳屹嶎櫩偷腻X，你躺賺商家的錢。”
胡永林記得，招商會上不斷講述其他城市的成功案例，其中一張PPT上寫著，有聯(lián)營商在3個月內(nèi)拿到36萬元利潤。
胡永林坦言，豐厚的利潤吸引了他，對方又稱自己是某平臺的合作伙伴。他當(dāng)時并沒有深入了解數(shù)字人直播，只是直覺上認(rèn)為這套模式行得通，因此當(dāng)場繳納6萬元成為鄭州市的城市聯(lián)營商。
當(dāng)項目開始落地，胡永林一邊去談意向商戶，收集商家的基礎(chǔ)信息、團購套餐、推薦話術(shù)等資料，一邊在官方直播間學(xué)習(xí)運營。
大約一周后，胡永林意識到，這樁生意有個致命缺陷：分傭是建立在第三方服務(wù)商的身份上，而這家科技公司并無資質(zhì)，也并不是某平臺的合作伙伴。新京報記者查詢發(fā)現(xiàn)，某平臺官方規(guī)定，能夠參與來客分傭的只有達人和服務(wù)商。
平臺政策也讓胡永林意識到數(shù)字人直播這條路似乎行不通。胡永林簽完合同的第二個月，2023年5月，某平臺黑板報發(fā)布“關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議”“關(guān)于虛擬主播的平臺公約暨倡議”。業(yè)內(nèi)認(rèn)為這是某平臺將進一步加大對AI生成式內(nèi)容的管控。
要求退費無果的胡永林，迅速收集了相關(guān)證據(jù)，提起民事訴訟。2023年11月，在法院調(diào)解下，胡永林拿回了大部分錢。
胡永林的經(jīng)歷不是個例。新京報記者在黑貓投訴平臺看到，截至12月18日，關(guān)于“數(shù)字人”的投訴高達5212條。其中包括夸大宣傳、貨不對板、卷款跑路等，還有消費者購買數(shù)字人直播專用設(shè)備，到手后發(fā)現(xiàn)實為裝了數(shù)字人直播軟件的手機等。
廣泛招收代理，也成為數(shù)字人軟件代理商的生財之道。
新京報記者以消費者身份咨詢多家數(shù)字人軟件供應(yīng)商，其中一家表示，只要繳納8680元成為代理，可享受所有產(chǎn)品2折拿貨優(yōu)惠，原價4000元的數(shù)字人系統(tǒng)拿貨只需要800元，銷售兩套就可以回本。“利潤很可觀，以后賣的都是你賺的?！?/p>
這些服務(wù)商對風(fēng)險閉口不談，對于封號及售后問題，一位工作人員表示無法保證平臺在政策方面沒有變動，如果有變動也不屬于公司產(chǎn)品單個問題，是屬于行業(yè)問題。而在工作人員的朋友圈，每天都在發(fā)布成交截圖。
如何規(guī)范市場
意識到數(shù)字人直播并沒有自己想象得靠譜，王順決定還是自己上播。他在社交媒體上發(fā)布了自己的經(jīng)歷，有多位同在一家公司購買數(shù)字人服務(wù)的用戶與他聯(lián)系。其中一位用戶向他表示，后續(xù)即便是經(jīng)過優(yōu)化和調(diào)整，直播間還是會因包含非實時直播的內(nèi)容或影響用戶體驗等違反平臺規(guī)則被封。王順開始報案并準(zhǔn)備維權(quán)。
湖南通程律師事務(wù)所的裴一霖律師曾接到多起關(guān)于數(shù)字人直播的咨詢。她經(jīng)常遇到的情況是，銷售方在賣出數(shù)字人產(chǎn)品后便無法聯(lián)系。她提到，這種行為可能涉嫌刑事責(zé)任，比如銷售方通過虛構(gòu)事實或誘導(dǎo)，讓消費者基于錯誤的判斷或認(rèn)識購買產(chǎn)品，這構(gòu)成了基于錯誤認(rèn)識的財產(chǎn)處分行為，是典型的詐騙。面對這種情況，消費者應(yīng)立即向公安機關(guān)報案，并可同時向直播平臺提出投訴。
但裴一霖坦言，現(xiàn)實中這類產(chǎn)品通常設(shè)置的購買金額為2999、2888等，導(dǎo)致后續(xù)消費者在報案時或因被騙金額沒有達到3000元的立案標(biāo)準(zhǔn)而不被立案；想通過民事訴訟解決時也會因為找不到被告信息而無法立案。裴一霖建議，在購買這類數(shù)字人服務(wù)時一定要簽訂合同，要銷售方提供公司的經(jīng)營許可證等，以防后續(xù)出現(xiàn)各類糾紛。
12月16日，新京報記者在裁判文書網(wǎng)以“數(shù)字人直播”為關(guān)鍵詞檢索發(fā)現(xiàn)，相關(guān)判決書在2024年有明顯增加，多起案例涉及數(shù)字人直播技術(shù)在實際應(yīng)用中遇到的問題，導(dǎo)致合同目的無法實現(xiàn)，商家要求解除合同并退款。
其中有法院認(rèn)為平臺禁播等外部因素導(dǎo)致合同目的無法實現(xiàn)，支持解除合同，判決部分退款；也有法院因雙方在合同中約定提供的是技術(shù)系統(tǒng)而非直播產(chǎn)品，判定軟件銷售公司對購買方在直播過程中出現(xiàn)封號和違規(guī)情況不負(fù)責(zé)，駁回原告的請求。
裴一霖也提到，數(shù)字人系統(tǒng)作為一種新興產(chǎn)品，在交付上確實需要有一定的標(biāo)準(zhǔn)。這些標(biāo)準(zhǔn)應(yīng)包括產(chǎn)品的功能、技術(shù)實現(xiàn)、服務(wù)內(nèi)容等細(xì)節(jié)，以及確保服務(wù)提供機構(gòu)在法律上的合規(guī)性。
她表示，如果是直播平臺的規(guī)則導(dǎo)致合同無法履行，這通常不被視為不可抗力。如果技術(shù)提供方在合同中聲明不對違規(guī)情況負(fù)責(zé)，這種免責(zé)聲明可能在一定程度上有效，但并不能免除其所有責(zé)任。特別是當(dāng)技術(shù)提供方的產(chǎn)品存在質(zhì)量問題或虛假宣傳等導(dǎo)致用戶違規(guī)時，免責(zé)聲明不能成為其逃避責(zé)任的借口。
除了因數(shù)字人直播軟件買賣帶來的合同糾紛，因數(shù)字人直播產(chǎn)生的其他亂象也引發(fā)業(yè)內(nèi)人士的擔(dān)憂。
張家港公安局曾針對“AI數(shù)字人直播教學(xué)”發(fā)布風(fēng)險提示，不法分子以“AI數(shù)字人直播教學(xué)”為由實施詐騙，不少群眾因此上當(dāng)受騙。警方提示，不法分子通過在各大社交媒體應(yīng)用上通過冒充主播或發(fā)布短視頻等手法進行引流，精準(zhǔn)把握受害人想通過躺平賺大錢的投機心理，通過承諾低成本、高回報等誘人利益，滿足受害者快速致富、追求成功的自尊心和欲望，成功致使受害人落入詐騙圈套。
更嚴(yán)重的是，依托于人工智能和機器學(xué)習(xí)的“深度偽造”，引發(fā)了更廣泛的社會和法律問題。身處數(shù)字人行業(yè)，于捷提到，數(shù)字人合成由口型驅(qū)動的，僅僅只需要一小段視頻就可以克隆。近日，知名傳染病學(xué)專家“張文宏”深夜帶貨蛋白棒引發(fā)關(guān)注。據(jù)媒體報道，有自媒體賬號利用AI深度合成“張文宏”帶貨視頻，張文宏稱這樣的賣貨賬號不止一個，且一直不斷在變，多次向平臺投訴但屢禁不絕。
裴一霖表示，法律本就有滯后性，但也具有穩(wěn)定性。她建議，可以通過立法明確數(shù)字人直播的法律地位、責(zé)任主體和監(jiān)管要求等。此外，還需加強行業(yè)自律，例如電商平臺在法律框架內(nèi)自行完善有關(guān)規(guī)則，推動數(shù)字人直播帶貨的規(guī)范化發(fā)展，也有助于解決現(xiàn)有問題。
相關(guān)政策也正在完善中。為了防止深度偽造技術(shù)和數(shù)字人技術(shù)的無序濫用，9月24日，浙江省市場監(jiān)管局發(fā)布《浙江省網(wǎng)絡(luò)直播營銷行為規(guī)范指引》，首次對AI數(shù)字人直播進行規(guī)范。
《指引》列明了30條經(jīng)營者合規(guī)要求，明確禁止通過虛假內(nèi)容誘導(dǎo)消費者進入直播間，未經(jīng)授權(quán)不得使用或偽造他人聲音、肖像制作引流廣告，同時要求在使用可能導(dǎo)致公眾混淆的AI數(shù)字人時，必須進行顯著標(biāo)識，明顯區(qū)分于自然人名義或形象，不得隱匿AI數(shù)字人標(biāo)識，以維護直播營銷秩序和消費者權(quán)益。
在采訪的最后，于捷提到自己在工作中的矛盾心態(tài)：不管如何宣傳，目前的數(shù)字人直播也沒有辦法取代真人直播，除非能夠打破技術(shù)壁壘，而那需要多久尚未可知。
（文中王順、胡永林、于捷、闞闞均為化名）
