行业监管动态 - 北京市消费者协会联合京东、美团、拼多多、唯品会、抖音、快手、小红书、微信直播等8家电商平台签署全国首份《促进AI技术规范应用承诺书》[1] - 《承诺书》旨在应对AI合成技术滥用风险、规范电商直播行业秩序，从技术标识、内容审核、责任追溯等关键环节建立企业自律规范[1] - 提出六大具体举措为AI技术在电商领域的应用划定“合规红线”，旨在压实平台企业主体责任，切实维护消费者合法权益[1] AI技术应用现存问题 - 北京消协专项调查梳理出AI合成技术应用中侵害消费者权益的三大突出问题，包括消费者知情权保障不足、合成技术滥用滋生消费风险、平台审核机制存在短板[2][3] - 3162份有效问卷数据显示，近九成受访者呼吁“AI生成内容需显著标识”，超七成接受虚拟背景但强调需有显著提示，超六成认为AI数字人“缺乏真情实感”，近三成担忧其“可能误导消费决策”[2] - 体验调查10个AI数字人直播带货样本发现，5个样本在直播界面标注提示信息，5个样本没有对体验人员的问题进行及时回应或互动，6个样本存在未提示私下交易风险等问题[3] - 部分电商平台尚未建立健全AI内容审核专项制度，对商家使用AI技术缺乏有效管理规则和精准识别技术[3] 《承诺书》核心举措 - 举措核心为“标识透明、审核严格、责任可溯”，要求严格遵守《消费者权益保护法》《电子商务法》《人工智能生成合成内容标识办法》等法律法规[4] - 强化标识要求，商家和内容创作者利用AI技术生成内容时需在显著位置清晰标注“AI生成”或“拟真场景”等提示，严禁利用AI合成换脸技术仿冒名人明星带货[4] - 采取技术监测与人工复核结合方式对直播内容进行监测，对未标识的疑似AI内容添加显著提示，对违规行为采取屏蔽链接等措施[4] - 为商家及内容创作者提供便捷的AI标识工具和操作指引，引导主动规范使用[5] - 坚决抵制恶意删除、篡改、伪造或隐匿AI内容标识的行为，对违规账号及内容严肃处理[5] - 将AI内容标识要求纳入平台治理体系，对商家或内容创作者加强合规培训[5] 后续行动计划 - 北京消协将持续跟踪网络AI技术应用动态，组织志愿者体验直播间购物、追踪反馈实际感受，督促企业严格落实承诺内容[6] - 通过线上线下多渠道开展消费教育活动，向消费者普及AI技术常识，提升辨别虚假内容的能力与防范意识[6]

AI数字人直播监管动态 - 北京市消费者协会联合京东 美团 拼多多 唯品会 抖音 快手 小红书 微信直播等8家主要电商平台签订全国首份《促进AI技术规范应用承诺书》为AI技术应用划定合规红线 [1][2][3] - 承诺书要求商家在利用AI技术生成数字人主播或虚拟场景时必须在显著位置清晰标注AI生成或拟真场景等提示内容 [3] - 平台承诺对未标识的疑似AI内容采取监测措施经研判确系违规将采取在内容周边添加显著提示标识或屏蔽链接等处置手段 [3] AI直播带货市场现状与消费者态度 - AI数字人直播和虚拟场景带货等新技术应用快速普及但部分商家违规操作引发消费者担忧 [1] - 北京消协专项调查显示近九成（基于3162份有效问卷）受访者呼吁AI生成内容需显著标识超七成接受虚拟背景但强调需有显著提示 [1] - 超六成受访者认为AI数字人缺乏真情实感近三成担忧其可能误导消费决策 [1] AI技术应用中的突出问题 - 消费者知情权保障不足调查的10个AI数字人直播带货样本中有5个未在直播界面标注AI生成等提示信息导致真假难辨 [1][2] - 合成技术滥用滋生消费风险5个样本没有对体验人员问题及时回应6个样本存在未提示私下交易风险等问题部分直播存在利用AI换脸仿冒公众人物营销情况 [2] - 平台审核机制存在短板部分电商平台尚未建立健全AI内容审核专项制度缺乏有效管理规则和精准识别技术增加消费决策风险 [2] 行业规范与平台责任 - 电商平台被要求为商家及内容创作者提供便捷的AI标识工具和清晰操作指引引导主动规范使用坚决抵制恶意删除伪造或隐匿AI标识的行为 [3] - 平台需对违规账号及内容依法依规严肃处理以维护AI制度的严肃性 [3] - 消协组织将持续跟踪网络AI技术应用动态通过志愿者体验购物和追踪反馈督促企业落实承诺并向消费者普及AI技术常识提升辨别能力 [3]