南都此前报道，12月1日，演员温峥嵘在社交平台晒出唐山市公安局路北分局的受案回执，并配文字 称"报警立案"，同时发出声明，随后该声明被删除。 声明表示，网络上频繁出现以盗播、AI换脸等方式，非法使用温峥嵘形象售卖假冒伪劣产品的不法行 为。经权威媒体曝光后，相关平台已对部分侵权人采取了封禁网络店铺、删除侵权作品、下架假冒伪劣 商品等措施。 温峥嵘团队表示，大量社交媒体账号在这些热搜词条下，持续发布文案相同、相似的不实信息，造成恶 劣影响。经团队方面核查发现，相关热搜词条的创建人和主持人，以及在热搜词条下批量发布不实信息 的账号，均由长沙某传媒公司统一运营和管理。 演员温峥嵘此前曾自曝刷到主播用AI假冒自己的直播间，随后网络上出现"温峥嵘自导自演""温峥嵘团 队把假货和AI联系起来了"等热搜词条。对此，其发文辟谣并报警，但该声明后被删除。12月15日，南 都N视频记者获悉，温峥嵘再次发布严正声明并附上立案告知书，同时配文称"报警，已刑事立案"。 温峥嵘还发布了公司声明称，关于温峥嵘及公司被不法分子雇佣"水军"，捏造并大量发布"温峥嵘自导 自演""温峥嵘卖面膜出事把锅推给 AI""温峥嵘团队把假货和AI联系起来了" ...

文章核心观点 - 山西省消费者协会发布警示，提醒消费者警惕利用“AI换脸”和“AI配音”等“深度伪造”技术实施的新型诈骗，此类诈骗在2025年人工智能技术深度普及的背景下迷惑性极强，对消费者财产安全与个人隐私构成严重威胁 [1] 新型诈骗手段与流程 - 诈骗分子首先在抖音、微信视频号、微博等社交平台广泛搜集消费者或其亲友公开发布的清晰面部视频和语音片段，用于AI模型训练 [1] - 随后利用“深度伪造”技术合成出足以以假乱真的视频或音频 [1] - 接着精心设计紧急情境，如声称遇到车祸、被拘留或业务急需付款等，利用受害者的慌乱心理降低其警惕性 [1] - 最后通过视频通话或发送伪造的语音、视频片段直接联系消费者，要求其向指定账户转账 [1] 典型诈骗场景 - 合成子女、父母或好友的影像，在视频通话中以“急需用钱”为由要求转账 [2] - 针对企业财务人员或员工，冒充公司领导通过视频会议下达紧急支付指令 [2] - 伪造执法人员视频，以涉嫌违法为由要求消费者将资金转移至所谓“安全账户”进行核查 [2] 消费者防范原则：“三不” - 不轻信：对于任何通过非见面方式提出的转账汇款要求，即便看到真人视频或听到熟悉声音，也应高度警惕，尤其要提防对方制造紧急氛围阻碍核实 [2] - 不转账：在未通过其他可靠途径百分之百确认对方身份前，坚决不进行任何转账操作 [2] - 不泄露：需注重个人信息保护，审慎在社交媒体分享清晰的正面视频、语音，避免敏感信息过度公开 [2] 消费者防范原则：“二要” - 要核实：若遇“亲友”通过视频借钱，务必挂断后使用自行存储的联系方式回拨核实，或通过共同亲友交叉确认；可与家人、挚友预先约定资金往来暗语 [3] - 要警惕：需保持观察，AI合成内容可能存在人物表情僵硬、眨眼不自然、口型对不上、声音有电子音或断句不合理等细微破绽；公检法等机关绝不会通过视频或电话要求转账至“安全账户”，凡要求保密、隔绝与他人的联系，均是诈骗典型特征 [3] 受骗后应对措施 - 一旦发觉被骗，应第一时间拨打110报警或前往就近派出所，并提供对方账号、联系方式、聊天记录、转账凭证等证据 [3] - 立即联系银行客服或通过手机APP尝试冻结对方账户，争取止付，以最大限度减少损失 [3]

文章核心观点 - 最高法发布涉民生领域诈骗犯罪典型案例，强调需通过加强法治体系建设、严格制度执行、提升社会合力与个体防范意识，以稳定国家养老基金“大池子”和筑牢老年人个人财产“小池子”，从而全面保护老年群体权益，构建老年友好型社会 [2][4][6] 依法惩治涉老诈骗犯罪案例 - 最高法发布6件依法惩治涉民生领域诈骗犯罪典型案例，多起案例涉及老年群体权益保护 [2] - 案例类型包括以诈骗手段骗取养老保险基金，以及利用老年群体健康焦虑诱骗购买昂贵无效药物或虚假保健品 [2] - 骗取养老基金被视作在国家社会保障体系的“大池子”里抽水，而诱骗老年人购买无效产品则被比喻为在个人“小池子”里直接“抽血” [2] 加强法治与制度体系建设 - 近年来，中国通过修订《老年人权益保障法》及多部门联合印发《关于建立健全维护老年人合法权益工作机制的指导意见》等举措，不断完善老年群体权益保护的法规政策体系 [4] - 公安部表示将持续加大对涉老违法犯罪打击力度，依法惩治养老领域非法集资、诈骗及涉老食品药品等犯罪行为 [4] - 最高检表示将指导办理一批高质效案件，推动老年人权益保障难题的综合治理与源头治理 [4] - 最高法表示发布的典型案例社会影响恶劣，人民法院坚决依法从严惩处 [4] 严格制度执行与源头防范 - 最高法分析指出，部分涉案人员对冒领养老金、骗取补贴等行为涉嫌诈骗犯罪的认知不清，存在侥幸心理 [5] - 典型案例揭示制度执行存在漏洞，例如伪造已死亡者仍在世的证明材料，就能在2021年11月至2024年1月间持续领取12万元退休金 [5] - 防范此类现象需制度执行更严格，也离不开老年人及其亲属的自觉自律以及社区工作人员的定期查访 [5] 应对新型诈骗手段与提升防范意识 - 针对老年人的侵权行为已从线下转向线上，手段包括利用AI换脸、语音合成技术冒充亲友，以及编造“医保卡停用”“快递丢失理赔”等话术进行精准诈骗 [5] - 最高法指出，许多被害人防范意识不强，对升级的诈骗手段难以识别，且被骗后不及时报案，增加了追赃挽损难度 [5] - 老年群体需进一步提高防范意识和法治意识，谨防诈骗，被骗后应及时报案以维护自身权益 [5] 构建老年友好型社会的合力 - 人口老龄化是中国长期基本国情，构建老年友好型社会需要司法保障与社会共同参与 [6] - 需要通过稳定国家养老保障“大池子”和筑牢老年人个人“小池子”，形成社会合力，托举更可持续的老年友好型社会 [6]

事件概述 - 演员温峥嵘及其团队就网络侵权与名誉损害事件发布严正声明并已报警立案 [1] - 事件涉及利用AI换脸、盗播等方式假冒温峥嵘形象售卖假冒伪劣产品 以及有组织地雇佣网络水军散布不实信息 [1] 侵权与违法行为的具体表现 - 网络上频繁出现通过盗播、AI换脸等方式 非法使用温峥嵘形象售卖假冒伪劣产品的行为 [1] - 2025年11月14日起 网络出现多个针对温峥嵘团队的不实热搜词条 如“温峥嵘 AI事件反转”等 [1] - 大量社交媒体账号在这些热搜词条下持续发布文案相同或相似的不实信息 [1] - 经核查 相关热搜词条的创建人、主持人及发布不实信息的账号 均由长沙某传媒公司统一运营管理 [1] - 该公司及背后委托人有组织、有预谋地捏造并批量发布不实信息 涉嫌刑事犯罪 [1] 当事人及团队采取的行动 - 温峥嵘团队已委托专业律师团队对长沙某传媒公司的行为完成取证工作 [2] - 团队工作人员已于2025年11月29日携证据材料向公安机关报案 案件已被依法受理并正在侦办中 [2] - 团队强烈谴责雇佣网络水军侵害艺人名誉的违法行为 并表示将严肃追究相关主体的法律责任 [2] - 早前 团队已对涉事商家发出律师函 表明相关产品从未被推荐或售卖过 [8] - 温峥嵘本人于11月5日通过转发央视新闻微博提醒公众 警惕非认证账号的AI假冒直播 [8] AI假冒侵权事件的背景与细节 - 演员温峥嵘曾自曝刷到AI假冒自己的直播间 上前质问后立即被拉黑 [5] - 当前有多个直播间同时出现使用“温峥嵘”影像的AI合成虚假直播或盗播录播片段 [6] - 温峥嵘表示早在4个月之前 就发现有人使用其不同妆发形象在同一时段于不同直播间售卖产品 [6] - 她曾于凌晨三四点拍戏结束后 在非直播时间刷到“自己”在直播 进入直播间质问后即被拉黑 [8] - 此类通过AI手段混淆视听的直播间 利用了粉丝对艺人的信任进行销售 [8] 行业背景与监管动态 - 近两年 AI深度合成名人、换脸换声的视频层出不穷、屡禁不止 [12] - 专家指出 治理的核心在于全面落实内容标识制度 以严格区分AI技术的合法应用与非法滥用 [12] - 自2024年9月1日起 《人工智能生成合成内容标识办法》开始施行 要求所有AI生成的内容需添加标识以明确来源和真实性 [12]

案件概述 - 湖北武汉网警侦破一起利用AI换脸技术非法侵入计算机信息系统的案件 抓获4名犯罪嫌疑人[1] - 犯罪团伙通过AI换脸技术篡改企业社交媒体账号后台密码及法定代表人信息 实现对企业的非法控制[1][4] - 案件正在进一步侦办中 4名犯罪嫌疑人均已被依法采取刑事强制措施[5][6] 作案手法与产业链 - 犯罪团伙利用AI软件制作换脸视频 以欺骗互联网平台的人脸识别验证系统[4] - 形成“人脸代过”灰色产业链 有专人负责承接需求、转交信息及实施AI换脸验证操作并从中牟利[4] - 犯罪过程在受害人不知情的情况下进行 通过篡改企业法人信息来非法控制企业[4] 行业影响与安全警示 - 该案件暴露了互联网平台认证系统可能存在的安全漏洞 静态照片或视频可能被用于蒙混过关[7] - 行业需强化认证系统 采用活体检测、动态验证等防伪技术以筑牢安全防线[7] - 公司及个人用户应开启并使用多重验证机制 例如结合密码、短信验证码和人脸识别以增强账号安全性[7] 技术滥用与法律风险 - 掌握AI等技术的专业人员需警惕法律红线 利用技术从事违法犯罪活动将受到严惩[7] - 公众需注意个人隐私保护 谨慎在公开社交平台发布清晰的正脸照片和视频 并严格设置查看权限[8] - 遇到个人信息泄露、篡改或涉及资金转账的可疑情况 应提高警惕并立即报警处理[8]

AI技术滥用现象 - 利用AI换脸技术假冒央视主持人李梓萌进行虚假带货，说话口音和演播厅背景高度仿真[3][18] - 假冒产品以低成本糖果冒充高价保健品，成本仅几元售价达数百元，产品执行标准明确为糖果类[6][20][22] - 假冒李梓萌的短视频宣称"深海鱼油能治疗头晕头痛"并承诺"央视把关保证"，几天内售出大批产品并增粉数十万[18][20] 仿冒手段特征 - AI换脸技术达到以假乱真程度，口型不自然且脸部图层脱离屏幕，但声音和面容与本人高度相似[10][22][24] - 不法分子截取新闻联播片段合成虚假视频，利用公众对央视平台的信任进行推广[3][28] - 假冒跳水运动员全红婵推荐土鸡蛋，将其照片印于产品包装制造代言假象[32][34] 受害群体特征 - 中老年群体因缺乏产品批文查验意识，凭对新闻主持人的信任下单购买[4] - 消费者通过亲友推荐扩散购买，误认为国家认可产品导致受骗规模扩大[6][34] - 粉丝对运动员代言存在天然信赖，基于对全红婵的喜爱冲动消费[34][36] 行业监管措施 - 市场监管部门查处国内首例AI虚假广告案，实施涉案人员抓捕并处以罚款[38][40] - 推行网络卖货实名制政策，从源头规范经营行为防止财产损失[40][42] - 央视通过核查主持人行程确认未参与商业活动，当事人采取法律手段维权[26][28] 技术双刃剑效应 - AI换脸技术满足用户低成本虚拟试装需求，零成本实现发型服装更换[12][13] - 技术滥用导致公众人物形象被非法用于商业场合，存在欺诈风险[15][16] - 综艺节目通过实时换脸演示反诈案例，揭示技术被用于伪造熟人借钱场景[8][10]

案件核心事实与判决 - 南京某科技公司运营一款名为“AI 视频换脸”的微信小程序，将网红或明星的肖像视频上传作为“AI 换脸”模板供付费会员使用 [1] - 涉案短视频由宋某拍摄剪辑、赵某出镜，在该小程序中被编号为“古风汉服177”，用户需花费50金币实现换脸 [1] - 法院认定涉案短视频体现了宋某个性化编排，具有独创性，属于著作权法保护的视听作品 [2] - 法院认为现有证据不足以证明被诉侵权视频系用户自行上传，被告公司对用于换脸的视频模板进行了分类和编号，并从小程序用户付费开通会员的模式中参与收益 [2] - 法院判决被告公司行为侵害了宋某对作品享有的信息网络传播权，赔偿原告经济损失3000元，二审维持原判 [2] 行业运营模式与法律责任 - AI换脸技术是一种逼真交换面孔的新视频技术，在影视制作、游戏开发及社交平台“二创”中得到广泛应用 [3] - 平台若自行上传素材，应获得版权许可协议；对于用户上传的素材，平台应承担审慎审核的义务 [3] - 采用用户付费开通会员的模式是相关运营企业创新盈利模式的一种方式 [2][3] - 运营企业或平台在采用新技术时，应遵守行业治理底线，对上传的合成模板所涉作品、肖像、个人隐私等要素尽到必要的管理和审慎审核义务 [3] 技术应用的法律风险 - AI换脸技术本身中立，但对隐私权和人格权带来新的冲击，需要法律予以规制避免滥用 [3] - AI换脸涉及的法律风险包括侵犯肖像权、著作权、名誉权、公民个人信息等 [3] - 本案因涉及人工智能的热点问题及裁判的示范价值，入选中国法院2025年度案例 [1][2]

AI深度伪造技术发展现状 - AI深度伪造技术已高度成熟，能够逼真模仿人物面部特征、口型变化、肌肉牵动及神态，实现以假乱真[4][35] - 技术门槛大幅降低，大量用户友好型应用程序和平台涌现，使深度伪造技术平民化、普及化[38] - 深度伪造技术利用深度学习算法，通过"喂给"目标人物图像和视频数据来捕捉并模仿个人特征[35] AI换脸侵权事件规模与范围 - 侵权范围覆盖明星、主持人、奥运冠军等公众人物，如温峥嵘、刘涛、张柏芝、刘晓庆、李梓萌、张伯礼院士、全红婵等均遭遇AI换脸[6][10][12][14][20] - 英伟达CEO黄仁勋的AI分身同步开启加密货币直播，吸引观众数量超过真人直播[16] - 普通人群成为新目标，青岛保时捷销冠牟女士被伪造不雅视频，韩国Deepfake事件涉及未成年人、教师、军人等广泛群体[26][30] AI换脸黑灰产业链特征 - 形成完整产业链，服务明码标价：换脸换声463元，只换声音228元，均可定制话术[41] - 黑产工具伪装成普通绘图软件，明确标注"可实现换头换衣功能"，并兜售诈骗软件和教程[41] - 数字内容生成扩散速度极快，每次转发分享都会模糊原始痕迹，增加追踪难度[38] 技术滥用带来的社会危害 - 被广泛用于带货诈骗，如假杨幂卖服装、假古天乐代言游戏、假全红婵销售土蜂蜜等[18][20][22] - 成为造谣工具，薛凯琪被编造恋情，泰勒·斯威夫特被生成虚假色情图片，雷军形象被篡改[24] - 针对普通人的精准诈骗升级，已出现伪装亲属视频借钱、冒充高管指令转账等案例，单笔诈骗金额最高达2亿港元[32][33] 监管与技术对抗困境 - 技术发展速度远超法律制定流程，监管存在明显滞后性[39] - 检测技术与伪造技术持续博弈，伪造技术快速进化导致检测技术始终处于落后状态[38] - 跨境执法面临挑战，韩国调查人员需要法院批准才能进入聊天室，但往往发现时犯罪窝点已消失[39]

核心观点 - AI换脸等技术滥用现象频发，操作门槛和违法成本极低，而监管和追责难度大，未来治理需依赖“用AI治AI”的技术博弈并构建完善的制度护栏 [3][5][13] 技术滥用现状 - 北京协和医院多名知名专家被AI换脸，用于“养生”“瘦身”等虚假宣传，甚至有AI生成的假医生打着医院旗号销售商品，相关话题阅读量超282万 [3] - 在某社交平台搜索“协和医院于康教授”，存在大量相关健康科普短视频，内容在介绍水果后为某养生讲堂公众号引流 [6] - AI换脸工具高度普及，手机小程序、开源软件使操作简化为“一键生成”，单次换脸成本低至几分钱 [6] - 苹果应用商店中，星绘App、脸猫App及AI换脸App的下载量分别达到21万、6.9万和3.2万 [7] - 电商平台有商家提供AI数字人克隆服务，参照人物形象和文案，最快2小时即可产出无AI水印的1:1克隆短视频，200字以内文案收费45元 [7] 违法成本与维权难度 - 多数案件仅处行政拘留或小额罚款，民事赔偿数额有限 [3][7] - AI深度伪造视频鉴别成本远高于造假成本，权利人维权周期长、程序复杂，部分权利人最终放弃维权 [8] - 制作商提出的免责声明无效，不能免除侵犯肖像权、欺诈消费者等法定责任 [11] 监管与溯源挑战 - 不法商家通过镜像翻转、画中画遮挡、对抗性噪声嵌入等方式规避检测，监管技术难以实时跟进 [9] - 平台监管被动，多以事后处理为主，处理速度远不及AI造假传播速度 [9] - 发布者和制作方有“脱身之道”，如在视频下方标注“AI生成，内容仅供参考”等小字提示 [11] 治理举措与未来方向 - 政策法规不断完善，如网信办开展“清朗·整治AI技术滥用”专项行动，《人工智能生成合成内容标识办法》于今年9月1日实施 [12] - 网信部门已清理相关违规信息8700余条，处置仿冒公众人物账号1.1万余个 [12] - “用AI治AI”是重要治理思路，AI治理技术围绕“侦测、溯源、阻断”展开，具有高效率与自动化特点 [13] - 未来治理需明确平台审查责任、发展溯源和水印技术、制定具体操作指南、加强国际司法协作 [12][13]

行业现状与问题 - AI换脸技术被不法商家用于伪造北京协和医院知名专家形象，进行“养生”、“瘦身”等虚假宣传和商品销售，相关微博话题阅读量超282万[1] - AI换脸工具高度普及，手机小程序、开源软件使操作简化为“一键生成”，单次换脸成本低至几分钱[3] - 苹果应用商店中AI换脸类应用下载量可观，如星绘App、脸猫App及AI换脸App下载量分别达到21万、6.9万和3.2万[4] - 电商平台商家提供AI数字人克隆服务，参照人物形象和文案最快2小时即可产出无AI水印的1:1克隆短视频，200字以内文案收费仅45元[4] 违法成本与监管挑战 - 违法行为查处后违法成本偏低，多数案件仅处行政拘留或小额罚款，民事赔偿数额有限，难以形成有效震慑[3][4] - AI深度伪造视频鉴别成本远高于侵权违法行为造假成本，权利人维权周期长、程序复杂，部分权利人最终放弃维权[4] - 监管技术难以实时跟进AI换脸造假手段的快速迭代，如镜像翻转、画中画遮挡、对抗性噪声嵌入等方式可规避检测[6] - 平台监管被动，多数以事后处理为主，依赖用户投诉后下架内容，速度远不及AI造假传播速度[6] 治理举措与技术应对 - 政策法规不断完善，如网信办开展“清朗·整治AI技术滥用”专项行动，《人工智能生成合成内容标识办法》于今年9月1日实施，明确AI生成内容必须标识[8] - 网信部门从严整治利用AI仿冒公众人物直播营销，已清理违规信息8700余条，处置仿冒公众人物账号1.1万余个[8] - “用AI治AI”是应对深度合成技术滥用的重要思路，AI治理技术围绕“侦测、溯源、阻断”三个环节展开，具有高效率与自动化特点[9] - 未来治理需构建完善制度护栏，明确网络平台审查管理责任，发展更有效溯源和水印技术，加强国际司法协作打击跨境AI犯罪[8][9]