21世纪经济报道记者 王俊 北京报道 时至今日，人工智能早已不在庙堂之上，而是渗透进入我们日常生活。与此同时，相关纠纷也逐渐涌入 司法领域。 9月10日，北京互联网法院召开发布会发布涉人工智能案件审理情况，提及该类案件增长较快，纠纷类 型也日益复杂化和多元化。 北京互联网法院副院长赵长新在会上通报：涉人工智能案件增长较快，纠纷类型也日益复杂化和多元 化，主要涉及著作权权属、侵权，网络侵权责任，网络服务合同等案由。 赵长新总结了该类案件的特点： 一是覆盖产业领域持续扩展。随着人工智能赋能千行百业，涉人工智能案件不再局限于互联网行业，而 是向文娱、金融、广告营销等传统产业领域广泛渗透。 二是市场主体创新风险迭代升级。应用人工智能技术的产品和服务快速出新，AI幻觉、算法黑箱等问 题的不确定性可能使模型开发者、服务提供者和用户等市场主体面临新型、复合性法律风险。 三是裁判规则引领作用凸显。涉人工智能案件司法裁判不仅是对个案技术与法律层面的裁判，更承载着 对科技伦理、创新激励与权益保护进行平衡的价值引导功能，深刻影响着技术发展方向与社会伦理规范 的形成。 当前，司法裁判对于市场行为的示范引领作用不断增强，因此法院的研判 ...

政策法规实施 - 《人工智能生成合成内容标识办法》及配套强制性国家标准于9月1日正式施行 要求所有AI生成合成的文本、图片、音频、视频、虚拟场景等信息必须依法添加身份标识 [1][2] 内容平台合规举措 - B站于8月29日推出AI生成合成内容标识功能 提供投稿侧自主声明选项 对未声明内容将强制添加标识并禁止恶意篡改 [3] - 腾讯于8月31日公告优化AI内容识别能力 对用户获取的AI内容添加显式或隐式标识 并禁止删除、篡改、伪造标识的行为 [4] - 抖音上线AI内容标识功能及元数据标识读写功能 支持内容溯源技术 要求创作者遵守法律法规和公序良俗 [5][6] - 快手实施AI生成内容显式标识与元数据隐式标识双体系 要求创作者准确规范标注 禁止恶意操纵标识行为 [6] 大模型公司技术合规 - DeepSeek于9月1日对平台AI生成内容添加标识 发布《模型原理与训练方法说明》披露训练数据与生成机制 保障用户知情权 [7] - 商汤科技于9月2日全面落实显式与隐式标识要求 提供API接口协助合作伙伴实现标识功能快速接入与合规验证 [7][8] 电商平台治理实践 - 抖音电商发布治理AI内容滥用公告 披露四类典型违规行为：利用AI生成虚假商品展示 冒充名人身份带货 虚构测评体验 未声明AI生成内容 [9][10] - 平台采取具体治理案例：处理合成知名运动员亲属声音推销商品 利用AI展示不符合农业常识的丰收场景 篡改地方新闻报道画面推销产品等行为 [10] - 重申合规要求：AI生成内容必须自主声明 禁止生成误导性人物或事物视频 不得发布与商品无关的虚假素材 [11]

核心观点 - 人工智能生成内容标识法规及国家标准于9月1日正式实施 要求所有AI生成内容必须添加显式和隐式标识以区分人工与AI创作 旨在解决虚假信息泛滥问题并构建可追溯的内容生态 [2][5][11] 法规框架与要求 - 《人工智能生成内容标识办法》及配套国家标准《网络安全技术 人工智能生成合成内容标识方法》构成强制性合规框架 适用于所有AI模型提供方、应用方及内容创作者 [2][5][14] - 标识分为显式标识（人类可识别）和隐式标识（机器可读取）两类 均需嵌入生成内容中 [5][11] - 任何组织或个人不得恶意删除、篡改、伪造标识 不得提供相关违规工具或服务 [6] 显式标识具体规范 - 文本内容需在开头、中间或结尾标注"人工智能生成/合成"或"AI"角标 [5] - 图片内容需在边角添加文字标识 文字高度不低于图片最短边的5% [5] - 音频内容需在开头或结尾以正常语速（120-160字/分钟）播放"由AI生成"语音 或插入"短—长—短—短"摩斯电码节奏音 [5] - 视频内容需在画面边角添加文字标识 文字高度不低于画面最短边5% 且持续显示至少2秒 [6] - 所有AI交互界面需在内容附近或界面顶部/底部持续显示提示文字 [6] 隐式标识与溯源机制 - 隐式标识需嵌入文件元数据 至少包含三项信息：是否为AIGC内容、生成方身份、内容唯一编号 [11] - 数字水印为鼓励性附加措施 通过扩展字段记录生成方（Content Producer）、内容编号（Produce ID）、传播平台（Content Propagator）及传播编号（Propagate ID） [11] - 元数据预留安全加固字段（Reserved Code1/2）支持数字签名防篡改 [11] 专业应用豁免条款 - 允许专业用户（如影视后期、广告合成、出版排版等领域）通过协议申请无显式标识的原始素材 但服务提供方需留存用户信息及操作日志不少于6个月 [6][7] - 豁免仅针对显式标识 隐式标识中的元数据和数字水印仍必须保留 [8] - 未带显式标识的内容若公开传播 发布者需主动声明添加标注 平台方会依据法规二次添加标识 [8] 从业者合规义务 - AI模型或应用提供方需升级产品功能 默认自动添加显式和隐式标识 并修改用户协议明确标识义务 [14] - API服务提供方需在输出数据中包含隐式标识 并要求调用方履行显式标识标注责任 [15] - 内容创作者需对包含任何比例AI生成的内容（如10%AI素材）主动声明并标注 仅限错别字修改或语序润色可豁免 [15][16] - 禁止通过截屏、重新编码、清理元数据等手段去除标识 违规将导致平台打标或账号权重降低 [16] 行业影响与生态变革 - 新规强化对公开传播内容的监管严厉性 同时为专业创作环节提供合规灵活性 [9] - 隐式标识体系构建内容溯源能力 可有效打击AI造假、诈骗及谣言传播 [17] - 新规推动互联网内容生态向可复核、可追溯方向演进 提升人类创作内容的稀缺性价值 [17]

新规实施背景 - 两项AI内容管理法规于9月1日正式实施 包括《人工智能生成合成内容标识办法》和强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》[1] - 新规旨在解决AI生成内容造成的虚假信息泛滥问题 例如三只羊事件和AI克隆声音诈骗等乱象[1] - 要求所有AI生成内容必须添加标识 以区分人类创作与AI生成内容[1] 显式标识要求 - 境内所有AI模型或应用提供方需对输出内容添加显式或隐式标识[2] - 文本内容需在开头 中间或结尾标注"人工智能"或"AI"及"生成/合成"字样 或使用AI角标[2] - 图片内容需在边角添加文字标识 文字高度不低于图片最短边的5%[2] - 音频内容需在开头或结尾以正常语速（120-160字/分钟）播放"由AI生成"语音 或播放代表"AI"的摩斯电码音效[2] - 视频内容需在画面边角添加文字标识 文字高度不低于画面最短边的5% 且持续时间不少于2秒[3] - 交互界面需在内容附近或界面顶部 底部持续显示提示文字[3] - 禁止任何组织或个人恶意删除 篡改 伪造或隐匿标识[3] 专业场景豁免条款 - 允许专业用户通过协议申请未添加显式标识的原始素材 用于影视后期 广告合成等二次创作场景[3] - 服务提供者需留存用户信息及相关日志不少于六个月[3] - 豁免仅针对显式标识 隐式标识中的元数据和数字水印仍必须保留[4] - 公开传播时发布者仍需主动声明并添加标注 平台方会依据法规再次添加标识[4] 隐式标识规范 - 隐式标识需包含三个核心信息：是否为AIGC内容 生成方身份 内容唯一编号[6] - 鼓励添加数字水印增强溯源能力 元数据中需包含Label（属性状态） ContentProducer（生成方） ProduceID（内容编号）等字段[6] - 内容传播时平台需追加ContentPropagator（传播方）和PropagateID（传播编号）字段[6] - 国家标准预留ReservedCode1和ReservedCode2字段用于数字签名等安全加固[6] - 隐式标识为强制性要求 数字水印为鼓励性非强制要求[7] 从业者合规要求 - AI工具提供方需立即升级产品 默认自动添加显式和隐式标识[8] - 需在用户协议中明确告知标识存在形式及法律要求[9] - API服务提供方需在生成数据中包含隐式标识 并要求调用方履行显式标识义务[10] - 创作者发布包含AI生成内容（即使仅占10%）时必须主动声明并标注 平台会核查元数据并追加标识[10] - 禁止通过截屏 重新编码或清理元数据等方式去除标识[11] 行业影响 - 新规对专业生产环节提供豁免通道 但对公开传播实施严格管控[5] - 有利于提升真实内容创作者权益 抑制AI生成虚假信息传播[11] - 通过数字水印和元数据追溯机制构建全链路监管闭环[6][11]

政策背景与目标 - 国家发布《人工智能生成合成内容标识办法》 要求所有AI生成文本 图片 音频 视频及虚拟场景内容必须依法添加身份标识 自9月1日起正式施行[1][2] - 政策出台背景源于AI生成内容风险凸显 包括造谣 擦边 换脸 拟声等技术滥用导致虚假信息泛滥 身份冒充及版权纠纷 严重破坏网络生态[4] - 中国生成式AI用户规模达2.3亿人 490余款大模型完成国家网信办备案 240余款完成省级登记 反映行业高速发展态势[2] 平台合规措施 - 微信公众平台发布专项公告 提供平台自动标识与用户主动声明双轨机制[6] - 抖音上线AI内容标识功能及元数据读写功能 支持创作者添加提示标识并为内容溯源提供技术支撑[6] - 小红书在笔记发布与管理环节提供标识路径 支持创作者自主声明合规[6][8] 行业实施案例 - 人民网在AI生成图片右上角添加"图片由AI生成"显著标识[11] - 新京报动新闻团队在AI还原历史影像内容中明确标注"画面由AI辅助还原"[11] - 专业媒体机构通过内容管控制度主动落实标识工作[9] 技术挑战与行业影响 - 显式标识存在被裁剪或PS抹除风险 隐式标识在视频转码 压缩后可能失效 检测模型准确率未达100%[11] - 部分用户因认知不足或流程繁琐忽视标识要求[11] - 政策与《互联网信息服务深度合成管理规定》等法规衔接 推动人工智能产业从"野蛮生长"转向健康有序发展[4][12]

监管合规举措 - 公司为贯彻落实《人工智能生成合成内容标识办法》及《网络安全技术 人工智能生成合成内容标识方法》国家标准 自2025年9月1日起对AI生成内容实施标识管理[1] - 平台明确要求用户不得恶意删除、篡改、伪造或隐匿AI生成内容标识 禁止利用AI制作传播虚假及侵权信息[1] 技术透明度建设 - 公司发布《模型原理与训练方法说明》 向用户提供AI技术详细信息以保障知情权和控制权[1] - 公司将持续优化AI生成内容标识机制 致力于提升服务可靠性与安全性[1] 行业标准实施 - 国家层面推动AI生成内容标识标准化 相关法规于2025年9月1日正式施行[1] - 新规旨在防止AI生成内容引发公众混淆、误认及信息失实风险[1]

核心观点 - 人工智能生成内容标识法规自9月1日起正式实施 旨在通过强制标识要求解决AI生成内容导致的虚假信息泛滥问题 改变互联网信息生态 [3][5][10] - 新规要求所有AI生成内容需添加显式或隐式标识 确保内容可追溯 同时为专业用途提供有限豁免通道 [15][34][42] - 法规对AI服务提供方和内容创作者均产生直接影响 要求产品功能适配、协议更新及主动标识义务 [57][61][67] 法规框架与要求 - 显式标识需覆盖所有模态：文本需在开头/中间/结尾标注"人工智能"或"AI"及生成合成要素 [20]；图片边角文字高度不低于最短边5% [22]；音频需语音声明"由AI生成"或播放特定摩斯电码节奏 [24][25]；视频标识需持续至少2秒且文字高度不低于画面最短边5% [27] - 隐式标识强制写入元数据 需包含内容属性（确定/可能/疑似）、生成方ID、内容唯一编号 并鼓励添加数字水印增强溯源能力 [44][45][54] - 交互界面需持续显示提示文字 任何组织或个人不得恶意删除、篡改标识 [29][31] 执行与合规要点 - AI服务提供方需默认启用标识功能 修改用户协议明确标识义务 通过API提供服务时需传递隐式标识并要求调用方履行显式标识义务 [57][58][60] - 专业用户可申请无显式标识内容 但需签署协议明确责任 服务方需留存用户信息及日志不少于6个月 [34][37][59] - 内容创作者发布含AI生成元素的内容时需主动声明 即使AI占比仅10%亦需标识 纯润色语序可不标注 [66][67][68] - 禁止通过截屏、重新编码等方式移除隐式标识 违规将导致平台打标或账号降权 [69] 行业影响 - 新规将提升内容真实性门槛 减少AI生成虚假信息传播 降低互联网垃圾内容占比 [70][71] - 强化溯源能力与监管震慑力 遏制AI克隆声音造谣、诈骗等恶意行为 [6][70] - 为专业创作留出合规通道 保障影视后期、广告合成等场景的二次创作需求 [35][36]

整治AI技术滥用专项行动进展 - 中央网信办将为期3个月的"清朗·整治AI技术滥用"专项行动划分为两个阶段：第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力；第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题 [1] - 微博清理传播教授AI换脸教程类内容162条，关闭账号22个，清理分享售卖违规AI产品类有害信息234条，关闭账号52个 [1] - 抖音清理AI生成的虚假信息、低俗内容等24749条，此前5月19日发起关于"AI起号"的专项治理行动，重点整治利用AI生成低俗猎奇视频、引导规避平台AI标注等行为 [1] 重点网站平台违规AI产品清理情况 - 上海市委网信办指导小红书、哔哩哔哩、拼多多等15家重点网站平台，集中清理"一键脱衣"、未经授权的人脸或人声克隆编辑、未备案等违规AI产品、商品及相关营销、炒作、推广、教程信息 [2] - 各重点网站和AI平台共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个 [2] - 小红书、哔哩哔哩开通有害AI内容的举报受理处置渠道，MiniMax旗下AI陪伴产品星野开展智能体全面排查清理 [2] 训练语料治理与重点领域风险防控 - 百度对存量数据进行整体清洗，使用211个权威网站的正能量数据源，百川智能停止使用存在疑问的数据来源，制定严格的网络爬取规范 [2] - 针对"AI荐股"，智谱明确禁止生成具体股票推荐、基金购买建议，快手对医疗回答明确标注"不替代专业医疗建议" [2] - 猿力科技对未成年人提问进行分级审核，仅允许教育类内容生成，小米通过实名认证和年龄校验，限制未成年人使用AI生成暴力内容等敏感功能 [2] AI内容标识管理政策与落地情况 - 国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》将于今年9月1日起施行，为AI平台、社交内容平台、应用商店和用户四类主体分别设定了AI内容的标识义务 [3] - 北京市目前已有近60家企业落实标识要求，微博、抖音等平台实现生成内容"显著标识+元数据水印"双标注 [5] - MiniMax、阶跃星辰、通义、小红书、哔哩哔哩、Soul等上海属地企业已基本完成显式标识规范上线，加快开发上线隐式标识和传播链互认验证 [5] AIGC标识生态建设与技术方案 - 上海网信部门在5月中旬指导成立AIGC标识生态联盟，推进标识互认、能力共享与标准协同，小红书、MiniMax等是该联盟成员 [5] - MiniMax旗下所有产品至少采用一种显性标识方式，文字和音频内容在用户交互场景中加入显性提示标识，图片和视频内容将显性标识添加在画面当中 [5] - MiniMax验证完成在各类可下载和导出的文件中添加元数据隐性标识的技术方案，计划为AI生成的文字内容增加角标，在AI音频中嵌入摩斯码 [5]