“我去年留意到一个案例，有一个明星同时在六个直播间直播，但竟没有一个是他本人。”今年两会期间，全国人大代表、美的集团副总裁钟铮表示，AI技术被滥用不仅误导消费者，也给后续维权带来极大困难。

“2025年恶意营销的场景有所升级，除了过去的虚拟视频外，数字人直播的传播场景更为广泛。新的传播场景常常是实时的、连续的，而且识别难度极大。”钟铮在接受南都N视频记者在内的媒体采访时分享了她对AI数字人监管的最新观察，并就加强对AI数字人直播管理提出建议。

恶意营销“升级” 从虚拟视频到数字人直播

当前，AI数字人已广泛应用于品牌宣传、直播带货等领域，但技术滥用带来的乱象也日益凸显。

“2025年恶意营销的场景明显升级，除了过去的虚拟视频外，数字人直播的传播场景更为广泛，往往是实时、连续的，而且识别难度极大。”钟铮进一步指出，随着AI数字人制作和运营门槛降低，其在直播领域的滥用和违规现象日益增多，暴露出身份虚假、内容失范、权益纠纷、监管滞后等突出问题。这些问题若不及时治理，将扰乱市场秩序，损害用户权益，影响人工智能技术的社会信任与应用前景。

去年两会，钟铮曾就完善AI视频传播管理机制提出建议，得到相关部门回应。2025年9月1日，国家相关部门出台了《人工智能生成合成内容标识管理办法》，规定使用AI生成的人物图像、视频应当进行标识。

然而，钟铮在调研中发现，部分企业在执行层面仍在打“擦边球”。“有的把提示标识字体缩得很小，有的在视频中一带而过，而不是持续性显示。”她表示，消费者依然难以辨别屏幕前的“人”究竟是真人还是AI。

给AI数字人“上户口” 代表建言推行数字人注册备案制度

针对AI数字人滥用新动向，钟铮在今年提交的《关于加强对AI数字人直播管理的建议》中提出系统性解决方案。

在立法层面，钟铮指出，加快推进人工智能法立法进程，推行数字人注册备案制度，完善相关法律修订。

在技术层面，鼓励加大AI内容安全技术研发投入，重点突破实时多模态内容识别与风险预警能力，并建立“实时AI监测+人工即时复核+舆情应急响应”一体化审核机制、强化对违规行为的打击力度。

在监管层面，压实多方主体责任，加强跨部门协同监管与公众监督。督促商家、平台、AI工具提供方履行各自主体责任，建立网信、广电、市场监管等部门间的常态化协同监管机制，形成监管合力。

AI虚假营销亟待治理 已形成黑公关产业链

除数字人直播外，钟铮今年还提交了《关于净化网络营销环境的建议》，聚焦AIGC、GEO等技术在虚假营销、黑公关等方面的滥用问题。

她举例说，AI技术已被应用于网络公关、数据污染、虚假营销等场景。“一方面，对企业会造成不公平竞争，扰乱正常经营秩序；另一方面，对消费者来说，会误导他们的消费选择，从而影响消费者权益。”

钟铮坦言：“尤其是在大的营销节点，部分评论被水军或黑公关带节奏，对企业声誉造成影响。我相信这不是美的单一家经历。”

她进一步剖析黑公关产业链：“这是一个完整的链条。有的企业作为主体雇佣网络水军，有的是技术提供方，提供GEO技术、代码，还有的是参与评论的群体。他们通过这个产业链获取非正常竞争利益。”

对此，钟铮建议在《反不正当竞争法》修订中增设条款，将利用AIGC、GEO等技术实施数据污染、虚假宣传、商业诋毁等行为明确列为不正当竞争情形，并设定阶梯式罚则，情节严重的可追究刑事责任。

同时，督促大型电商平台、社交平台开发企业营销专用AI内容识别模型，提升对虚假测评、参数篡改、恶意拉踩等行为的自动识别率。

深化“清朗”专项治理，精准打击涉企恶意竞争行为。由中央网信办牵头，联合市场监管总局、工信部，持续开展“清朗·网络生态”专项整治，重点查处利用AIGC、GEO等技术实施数据污染、虚假宣传、商业诋毁等行为，定期公布典型案例。

采写：南都N视频记者 伍月明