AI数字人主播被“封杀”了，谁该担责？

　　温州网讯 无须真人值守、24小时不间断开播、大幅降低人力成本……随着人工智能技术落地电商赛道，AI数字人直播迅速成为中小商家追捧的“降本利器”。但高速扩张的新业态背后，虚假防封承诺、无人直播违规、权责边界模糊、合规认知缺失等乱象层出不穷。近日，鹿城区人民法院审结的一起AI数字人直播服务买卖合同纠纷案，明确服务商虚假承诺担主责、商家规避监管存过错的双向追责原则，为行业划定清晰法治边界。

　　案件回顾

　　花8799元“防封AI直播”被封

　　袁某是一名电商经营者。2024年11月，他在某视频平台看到某公司推广AI数字人直播服务。为降低直播运营成本，袁某主动添加对方客服微信，追问核心问题：所购AI数字人是否存在平台封禁风险？对此，客服给出了明确承诺：公司研发的AI数字人内置专属防护代码，能有效规避平台封号规则，不会出现直播封禁问题。基于该承诺，袁某与该公司签订《技术服务合作协议》。双方约定：由该公司为袁某搭建专属直播间，提供AI数字人直播技术服务，保障直播间正常运营，袁某合计支付8799元服务费。

　　然而，袁某用购买的“数字人”在某视频平台开播后，直播间接连被平台以“使用或展示易被混淆的直播形象”“播放内容包含录制素材，缺少实时互动”等违反平台直播运营规范的理由封禁。钱花了，直播却做不下去，袁某多次找该公司协商退款均未果，遂将该公司诉至法院。

　　法院经审理认为，本案交易的核心合意及缔约基础，是某公司向袁某作出的“可规避平台封号、不会被封禁”这一明确承诺，该承诺属于合同履行的核心服务内容。但袁某短时间内多次因AI数字人直播特性被平台处罚，导致无法正常开展直播活动。某公司宣称的防封禁功能在客观上未能实现，致使袁某规避封禁风险的合同目的彻底落空。据此，法院支持袁某解除合同的诉求。

　　法院同时指出，袁某作为直播经营从业者，理应知悉部分网络直播平台对无人直播、录播替代实时直播等行为设有明确禁止性规则。其主动购买AI数字人直播服务，本质上是试图借助技术手段规避平台监管规则，自身存在明显合规瑕疵，对合同目的无法实现及纠纷发生存在一定过错，需自行承担相应责任。综合考量双方过错程度、合同履行情况、新业态交易风险等因素，法院最终酌定科技公司承担主要责任，退还袁某服务费6000元。一审判决作出后，双方当事人均服判息诉。

　　法官说法

　　技术赋能不能突破规则红线

　　法官认为，AI数字人直播作为人工智能落地电商领域的新兴业态，具备高效、低成本的经营优势，但须符合平台规则和监管要求。新业态交易中，技术服务方的宣传承诺应当恪守诚信原则，不得作出虚假、不实风险保障承诺。而商家也应清醒认识到：技术赋能不等于可以突破规则红线。

　　法官提醒广大电商从业者，选用AI直播服务前应充分做好前期市场调研，核验技术适配性，研判平台监管规则与行业政策要求，提前排查合规风险。“AI新业态的创新发展必须坚守法治底线，才能使产业健康有序发展。”

　　延伸阅读

　　堵住“AI免责”的监管漏洞

　　长期以来，AI数字人直播处于监管模糊地带，行业门槛低、乱象多发，虚假宣传、违规无人直播、责任悬空等问题屡禁不止。2025年以来，国家多部门连续出台专项监管新规，补齐行业监管空白，将虚拟主播、AI直播全面纳入法治化、标准化监管体系。

　　2026年1月，市场监管总局、国家网信办联合发布《直播电商监督管理办法》，首次将AI数字人主播正式纳入直播电商法定监管范畴，彻底堵住“AI免责”的监管漏洞，明确三大核心监管要求。一是强制标识义务，使用AI数字人、AI生成影像开展直播带货，直播间必须持续、显著标注AI生成属性，严禁隐瞒虚拟身份、误导消费者；二是严禁AI造假行为，不得利用AI技术打造虚假人设、搭建虚假场景、制作虚假测评，不得以AI生成作为虚假宣传、传播不实信息的挡箭牌；三是压实真实主体责任，数字人不具备独立法律主体资格，直播产生的合规处罚、侵权纠纷、售后问题等全部责任，均由商家、运营主体及平台承担。

　　2026年7月15日，由国家网信办、国家发改委、工信部、公安部、市场监管总局五部门联合出台的《人工智能拟人化互动服务管理暂行办法》正式施行，进一步细化各方主体责任，搭建起全方位监管体系。新规明确，直播平台需落实上架审核、日常巡查、应急处置等安全管理责任，严格核验AI拟人化服务的安全评估、备案资质，对违规账号及时采取暂停服务、下架封禁等处置措施；AI技术服务商需承担安全主体责任，建立完善内容管控、科技伦理审查机制；直播间运营者必须严格履行AI标识义务，确保数字人形象、语音素材均获得合法授权，杜绝人格权侵权问题。同时，新规划定清晰处罚标准，对违规主体可依法予以警告、通报批评、责令整改；拒不改正或情节严重的，可责令停止服务，并处1万元至10万元罚款；若危害公民生命健康安全，最高可处20万元罚款。

来　源：温州晚报

记者 赵小娴 通讯员 胡爽爽

本文转自：温州新闻网 66wz.com