“欢迎用户2176来到咱们的直播间。”
王顺的数字人“主播”正在“直播”。识别到有用户进入，身穿白色裙子、黑色口罩特效遮住了半张脸的“主播”，生硬、机械地念出这句欢迎词。
这是12月初，王顺花费1980元购买的数字人主播，这曾是他眼中的新风口。在他的设想中，这位省心省力的“主播”可以24小时不停播，随时回答直播间观众的提问，销售商品为自己带来利润。
“实际上听起来像商场里的楼层指引机器人。”几乎是在开播后，王顺就意识到自己可能被骗了，直播间的画质模糊，看不清“主播”的表情。“主播”的动作和产品介绍话术不断重复，不仅语调单一、缺乏节奏感，也无法直接与观众互动。
伴随着人工智能的兴起，数字人直播带货也一时成为风口。但新京报记者调查发现，该新兴行业目前鱼龙混杂。
有软件商对数字人直播效果及能产生的盈利夸大其词，用户花高价买入后发现效果不尽如人意，还会被平台监测到“非实时直播内容”或低质量内容封禁，售后无门；有不法分子盗用他人的身份信息进行数字人制作；也有人以数字人直播为噱头，招募联合运营商声称可以分佣，实则冒充平台认可的有分佣资质的第三方服务商；更有数字人推广者采用传销的模式，发展下级代理获取利润，可能存在非法集资、诈骗、非法传销等刑事风险。
张家港公安局曾针对“AI数字人直播教学”发布风险提示，不法分子以“AI数字人直播教学”为由实施诈骗，不少群众因此上当受骗。警方提示，广大群众要谨慎辨别真伪，以防上当受骗。
王顺听从对接人员的安排，在家中用摄像头对准电子钟。右图为数字人主播在直播间里的画面。 受访者供图
“24小时自动直播”
王顺是个业余主播。他主业是婚纱摄影相关工作，副业运营着一家电商店铺，销售戒指、手链等饰品。每天晚上下班后他会直播两个小时，观看人数从几十人到百人不等，平均每天能有三百元左右的销售额。
有限的成交量令王顺时常思考如何能给直播间引流。今年以来，他看到社交平台上关于数字人直播的宣传铺天盖地，“24小时自动直播”“一位全天候工作的数字助手”“你在睡觉，数字人给你挣钱”。起初他半信半疑，但宣传中的效果又让他隐隐心动。
12月初，他在刷短视频时偶然点赞了一个介绍数字人的视频，马上有人私信他，希望向他详细介绍产品。在对方发送的多个案例里，王顺看到数字人主播的表现堪称完美，不仅有流畅的表达、精准的介绍、自然的停顿，还有微笑等面部神情和眼神交流，以及低头看资料等丰富的动作。
最吸引王顺的是“1980元就能获得软件永久使用权”。销售人员表示，“价格真不高，别说永远使用，就算你用一年，一天才几块钱。”他们强调自己是正规软件公司，后期不会有任何隐形消费，有一对一搭建指导，开播后还会陪跑一年，随时有老师能联系。另外，对方还提到，等王顺学会这套系统后，可以卖数字人直播软件赚钱。
当王顺问到能在哪些平台使用以及是否有封号的风险时，对方回复“目前所有的主流直播平台都可以播，账号封禁、不能使用的，我们公司目前一例都没有。”在没有先试用，也没有查询这家公司资质的情况下，王顺爽快地付了钱。
付费后，对接人员通过远程控制王顺的电脑开始搭建直播间。先是在数字人软件内置的通用数字人模型中选择形象和声音，将王顺提供的产品介绍文案导入，并设置直播间的虚拟背景图片。王顺则听从对接人员的安排，在家中挂起一块绿布，桌上摆好电子钟，再打开对着电子钟和绿布的高清摄像头。
王顺的数字人主播“上岗”了。直播间里能看到，“主播”站在直播间，使用黑色口罩特效遮住半张脸，身后有一株插花作为装饰，背景为王顺账号的名称，左下角播放着工匠制作饰品的视频。而电子钟则被放置在画面的右下角落里。
对接人员告诉他，使用口罩特效是为了避免系统监测到口型不自然，直播半小时后监测不到就可以摘了；利用绿幕技术将电子钟与数字人直播场景融合，也是为增加直播间的真实感。目的都是为了开播初期让平台监测不到是数字人在直播。
然而，王顺看到，自己的这位“主播”跟对方之前发送的案例差距很大。还来不及考虑数字人软件“货不对板”的问题，王顺要出门上班，留“主播”在家自己播。
到达办公室后，王顺用手机查看直播发现，开播将近一小时，除了自己和对接人员，直播间里几乎没有一个观众，后半段直播间人数为0，连对接人员都不在了。同事们观看后也说那是一眼就能看出僵硬、没有表情的假人，还没有王顺自己播得好。
最终，王顺主动结束了这场直播。在开播的一个半小时里，主播的口罩特效一直没能去掉，这场直播不仅没有带来收益，而且几乎无人停留在他的直播间。
感觉上当的王顺去找对接人员退款，对方则称还可以慢慢优化。反复交涉无果后，对方不再回复王顺的信息。
数字人软件公司的对接人员告诉王顺，他们的数字人软件可以在所有主流平台上直播。 受访者供图
“如果数字人直播都有流量，换个动物来也行”
于捷是一家头部数字人服务商的产品运营，这家公司目前只从事TO B（面向企业）的产品定制服务。她介绍，在公司订购数字人的客户分为两类，一类是用于本地生活服务，销售餐饮券、门票等，希望达成24小时直播；另一类是用于企业宣传。
“内容丰富度单一”，于捷认为，这是数字人直播目前无法解决的缺陷。
比如前期坐着录制的数字人在直播时不可能突然站起来跟消费者聊几句。无论给的文案多丰富，只要长时间循环播放就会造成重复，进而被平台判定为低质量内容或互动不足，这也是一些直播间容易被封掉的原因。对于不长时间停留在直播间的人来说，可能很难区别出不同。“但数字人直播的逻辑是前一个循环接下一个循环，中间一定会有不自然的动作衔接。”
她提到，直播中的交互，是运营人员提前准备题库，触发关键词后，直接从题库里选取答案，让数字人念出来，题库中没有的内容，数字人也说不出来，真正具备自动对话功能的数字人很少。
除了自身技术的问题，各大互联网平台对数字人直播的态度呈现出明显的分化。“不同电商平台在数字人直播带货上呈现出不同的态度，其实反映了它们在生态建设上不同的战略和发展方向。”电子商务交易技术国家工程实验室研究员赵振营在接受《中国经营报》记者采访时提到。
比如在部分电商平台上随处可见数字人直播，而一些平台则规定，直播过程中使用非实时直播内容或道具代替真实直播的行为都是“非真实直播”，属于“低质量内容”，使用插件、AI等工具生成虚拟形象进行直播是典型的违规行为。
多个平台将数字人归结于低质量单一的内容，于捷表示认可。她表示，只要平台想封，使用者就完全没有办法，只能换号，或者等封禁时间过了再重新开播。
于捷总结，以内容为导向的平台出于维护社区优质内容的导向会加以限制，而电商等以卖货为导向的平台则更注重成交量，相对宽松。
也因此，和平台斗智斗勇，想方设法避免直播时被封号，是数字人产品运营的重要工作。于捷介绍，他们会针对每一个平台制作精细化的防风控手册。形式上可以在直播间配置中多开几个摄像头和麦克风，尽管这些摄像头没有实际画面，可以放在直播画面最下端，把虚拟主播放在最上面，以达到欺骗平台监测系统有实际开播的作用。内容方面则会使用人工智能生成大量不一样的话术。
至于数字人直播带来的收益，于捷提到，像销售美食套餐没什么特别的影响，但只要是需要主播加持的带货，销量就比较惨淡。
一位女装主播阚阚也认同这样的说法。早在2022年，阚阚就考察过数字人直播，她除了好奇，也在思考自己是否有被替代的可能性，当时的数字人市场价格混乱，从数万元到千元不等，她没敢投入。直到今年上半年，阚阚花费2000元购买了朋友推荐的一款软件，她只运用在短视频创作中代替自己出镜几秒钟，新鲜两个月后，现在已经弃用。
她直言，直播间里引流本身就很难，真人在直播中又哭又闹都没有流量，用一个毫无感情的假人更没有流量。在她看来，直播带货是“人货场”缺一不可，“如果数字人直播都有流量，那属于货带人，换个动物来也行。”
风口下的诈骗
即便在业内人士看来，数字人技术和应用层面撕裂，普通商家很难从中获利，但数字人市场在近几年已成风口。根据艾媒咨询数据显示，2022年，该行业的市场规模已达到120.8亿元，预计到2025年，虚拟数字人的核心市场规模将达到480.6亿元。
新京报记者发现，当前数字人产业链中，中小商家似乎成为了被收割的对象，销售软件的公司则借此机会获得丰厚的收益。更有甚者，利用“数字人”的概念进行诈骗。
家住郑州的胡永林一度也觉得自己能够站上风口。
2023年4月底，胡永林收到一通自称是某平台合作商的电话，邀请他参加一个关于数字人直播的招商会。招商会离家很近，他出于好奇便去了现场。这场会议介绍的是位于广州的一家科技公司，胡永林看到，大约300人参与，多为商务人士。
在招商会上，胡永林听到一桩看似很合理的生意：与这家公司合作，以第三方服务商的身份，向本地餐饮等生活服务的商家销售数字人直播软件，并协助商家入驻该平台，搭建数字人直播间销售团购券。此后商家每核销一张团购券，自己都能分到佣金，另外邀请新商家入驻还有额外的奖金。
换句话说，成为这家科技公司的代理商，在线下销售数字人直播软件，并让商家利用数字人直播销售团购券，就能从中赚取佣金。“商家赚顾客的钱，你躺赚商家的钱。”
胡永林记得，招商会上不断讲述其他城市的成功案例，其中一张PPT上写着，有联营商在3个月内拿到36万利润。
胡永林坦言，丰厚的利润吸引了他，对方又称自己是某平台的合作伙伴。他当时并没有深入了解数字人直播，只是直觉上认为这套模式行得通，因此当场缴纳6万元成为郑州市的城市联营商。
当项目开始落地，胡永林一边去谈意向商户，收集商家的基础信息、团购套餐、推荐话术等资料，一边在官方直播间学习运营。
2023年4月，胡永林参加招商会，宣讲人不断讲述数字人直播的市场前景。 受访者供图
大约一周后，胡永林意识到，这桩生意有个致命缺陷：分佣是建立在第三方服务商的身份上，而这家科技公司并无资质，也并不是某平台的合作伙伴。新京报记者查询发现，某平台官方规定，能够参与来客分佣的只有达人和服务商。
平台政策也让胡永林意识到数字人直播这条路似乎行不通。胡永林签完合同的第二个月，2023年5月，某平台黑板报发布“关于人工智能生成内容的平台规范暨行业倡议”“关于虚拟主播的平台公约暨倡议”。业内认为这是某平台将进一步加大对AI生成式内容的管控。
要求退费无果的胡永林，迅速收集了相关证据，提起民事诉讼。2023年11月，在法院调解下，胡永林拿回了大部分钱。
胡永林的经历不是个例。新京报记者在黑猫投诉平台看到，截至12月18日，关于“数字人”的投诉高达5212条。其中包括夸大宣传、货不对板、卷款跑路等，还有消费者购买数字人直播专用设备，到手后发现实为装了数字人直播软件的手机等。
广泛招收代理，也成为数字人软件代理商的生财之道。
新京报记者以消费者身份咨询多家数字人软件供应商，其中一家表示，只要缴纳8680元成为代理，可享受所有产品2折拿货优惠，原价4000元的数字人系统拿货只需要800元，销售两套就可以回本，“利润很可观，以后卖的都是你赚的。”
这些服务商对风险闭口不谈，对于封号及售后问题，一位工作人员表示无法保证平台在政策方面没有变动，如果有变动也不属于公司产品单个问题，是属于行业问题。而在工作人员的朋友圈，每天都在发布成交截图。
短视频平台上关于“数字人主播”的宣传，其中多数为数字人软件商家在引流。 网络截图
如何规范市场
意识到数字人直播并没有自己想象得靠谱，王顺决定还是自己上播。他在社交媒体上发布了自己的经历，有多位同在一家公司购买数字人服务的用户与他联系。其中一位用户向他表示，后续即便是经过优化和调整，直播间还是会因包含非实时直播的内容或影响用户体验等违反平台规则被封。王顺开始报案并准备维权。
湖南通程律师事务所的裴一霖律师曾接到多起关于数字人直播的咨询。她经常遇到的情况是，销售方在卖出数字人产品后便无法联系。她提到，这种行为可能涉嫌刑事责任，比如销售方通过虚构事实或诱导，让消费者基于错误的判断或认识购买产品，这构成了基于错误认识的财产处分行为，是典型的诈骗。面对这种情况，消费者应立即向公安机关报案，并可同时向直播平台提出投诉。
但裴一霖坦言，现实中这类产品通常设置的购买金额为2999、2888等，导致后续消费者在报案时或因被骗金额没有达到3000元的立案标准而不被立案；想通过民事诉讼解决时也会因为找不到被告信息而无法立案。裴一霖建议，在购买这类数字人服务时一定要签订合同，要销售方提供公司的经营许可证等，以防后续出现各类纠纷。
12月16日，新京报记者在裁判文书网以“数字人直播”为关键词检索发现，相关判决书在2024年有明显增加，多起案例涉及数字人直播技术在实际应用中遇到的问题，导致合同目的无法实现，商家要求解除合同并退款。
其中有法院认为平台禁播等外部因素导致合同目的无法实现，支持解除合同，判决部分退款；也有法院因双方在合同中约定提供的是技术系统而非直播产品，判定软件销售公司对购买方在直播过程中出现封号和违规情况不负责，驳回原告的请求。
裴一霖也提到，数字人系统作为一种新兴产品，在交付上确实需要有一定的标准。这些标准应包括产品的功能、技术实现、服务内容等细节，以及确保服务提供机构在法律上的合规性。
她表示，如果是直播平台的规则导致合同无法履行，这通常不被视为不可抗力。如果技术提供方在合同中声明不对违规情况负责，这种免责声明可能在一定程度上有效，但并不能免除其所有责任。特别是当技术提供方的产品存在质量问题或虚假宣传等导致用户违规时，免责声明不能成为其逃避责任的借口。
除了因数字人直播软件买卖带来的合同纠纷，因数字人直播产生的其他乱象也引发业内人士的担忧。
张家港公安局曾针对“AI数字人直播教学”发布风险提示，不法分子以“AI数字人直播教学”为由实施诈骗，不少群众因此上当受骗。警方提示，不法分子通过在各大社交媒体应用上通过冒充主播或发布短视频等手法进行引流，精准把握受害人想通过躺平赚大钱的投机心理，通过承诺低成本、高回报等诱人利益，满足受害者快速致富、追求成功的自尊心和欲望，成功致使受害人落入诈骗圈套。
更严重的是，依托于人工智能和机器学习的“深度伪造”，引发了更广泛的社会和法律问题。身处数字人行业，于捷提到，数字人合成由口型驱动的，仅仅只需要一小段视频就可以克隆。近日，知名传染病学专家“张文宏”深夜带货蛋白棒引发关注。据媒体报道，有自媒体账号利用AI深度合成“张文宏”带货视频，张文宏称这样的卖货账号不止一个，且一直不断在变，多次向平台投诉但屡禁不绝。
裴一霖表示，法律本就有滞后性，但也具有稳定性。她建议，可以通过立法明确数字人直播的法律地位、责任主体和监管要求等。此外，还需加强行业自律，例如电商平台在法律框架内自行完善有关规则，推动数字人直播带货的规范化发展，也有助于解决现有问题。
相关政策也正在完善中。为了防止深度伪造技术和数字人技术的无序滥用，9月24日，浙江省市场监管局发布《浙江省网络直播营销行为规范指引》，首次对AI数字人直播进行规范。
《指引》列明了30条经营者合规要求，明确禁止通过虚假内容诱导消费者进入直播间，未经授权不得使用或伪造他人声音、肖像制作引流广告，同时要求在使用可能导致公众混淆的AI数字人时，必须进行显著标识，明显区分于自然人名义或形象，不得隐匿AI数字人标识，以维护直播营销秩序和消费者权益。
在采访的最后，于捷提到自己在工作中的矛盾心态：不管如何宣传，目前的数字人直播也没有办法取代真人直播，除非能够打破技术壁垒，而那需要多久尚未可知。
（王顺、胡永林、于捷、阚阚为化名）
新京报记者 李聪
编辑 陈晓舒
校对 赵琳