为震坚守 6 华商基金 20199 电信网络诈骗 是指以非法占有为目的,利用电信网络技术手段， 通 过远程、非接触等方式,诈骗公私财物的行为。 更少精术 余措盘作编 | 甜言蜜语暖心房,卷钱跑路两范充 k 新型AI作骗 7 AI換版 给"好友"发微信 我在外地竟标,借用你账户,公对公 过账下保证金 真的是你么?视频一下 没问题, 必须的!! 信你了! 没有核实钱款是否到账,就将钱转到了"好友" 提供的银行卡上 Tr 学习为您可 RTRATELA | 以上市 TIX = M AI换脸是一种基于人工智能技术的图像处理应用,可以将 一个人的面部特征和表情应用到另一张照片或视频中,实 现快速、高效的人脸替换。 AI拟声 骗子给受害人打骚扰电话 提取受害人声音 对声音素材进行合成 用伪造的声音实施诈骗 保护个人信息 T 指通过婚恋平台、社交软件等方式寻找潜在受害者,通过 聊天发展感情取得信任,然后将受害者引入博彩、理财等 诈骗平台进行充值,骗取受害者钱财的骗局。 上在诈骗 军贝! 投资理财循正路,刷单兼职是骗木 指刷单诈骗、兼职诈骗,骗子通过发高薪兼职信息吸引受 害者参与,再通过套路不断鼓动受害者投钱代刷,最终骗 取所 ...

AI拟声技术滥用现象 - AI技术被大规模用于伪造名人声音进行商业欺诈，包括全红婵、张文宏、古天乐、雷军等公众人物被仿冒带货[3][7] - 最低仅需1元即可在二手平台购买"声音克隆工具包"，200元可定制明星AI配音，50元可克隆素人声音[7][10] - 技术门槛极低，仅需采集少量声音样本即可在几秒内完成克隆，应用商店相关App下载量最高超千万次[14] 行业影响与商业模式 - 短视频平台成为重灾区，仿冒账号利用综艺片段作为原材料，通过AI修改字幕和配音批量生产虚假带货视频[10] - 形成灰色产业链，商家通过AI伪造明星代言低成本引流起号，规避正规代言费用[10] - 涉事店铺多为2024年新注册账号，商品存在资质不明、厂商不清等问题，宣传素材高度雷同[11] 技术应用现状 - AI拟声技术已从娱乐用途（如"AI孙燕姿"翻唱）演变为商业欺诈工具[7] - 普通用户可通过198元会员服务生成任意内容的出镜口播视频，无需提供声音授权证明[14] - 社交平台存在超过4万条AI合成明星声音教程，二手交易平台克隆服务低至10元以内[15] 法律与社会应对 - 北京互联网法院2024年4月宣判全国首例"AI声音侵权案"，明确自然人声音权益保护范围[15] - 9月1日将上线"白名单制度"规范AI作品，但水印提示的实际效果存疑[15] - 专家建议需提高社会对真实性的鉴别能力，立法防止技术滥用[15]

AI拟声技术滥用现象 - 短视频平台出现数十个仿冒账号利用AI伪造全红婵声音售卖蜂蜜和驼奶粉 [2][3] - 去年12月出现伪造张文宏讲解蛋白棒的AI假视频导致大量中老年人受骗下单销量破千 [8] - 平台利用AI技术合成古天乐林峰等港星肖像声音制作赌博游戏代言宣传片 [8] - 小米CEO雷军声音被伪造用于虚假理财广告 [8] - 张馨予声音和表情被AI伪造用于推荐减肥药视频播放量高且难以辨别 [11][12] AI拟声产业链 - 电商平台提供明星声音200元一条素人50元一条的AI配音服务 [15] - 手机应用商店有数十款AI配音App下载量最高超千万次 [25] - 闲鱼App上一次AI声音克隆低至10元以内小红书相关帖子多达4w+条 [26] - 198元即可解锁付费会员功能生成各类出镜口播视频无需授权证明 [25] 行业影响与危害 - 热播综艺片段被批量篡改植入保健品减肥药广告形成流水线生产模式 [13][14] - AI拟声带货商品存在资质不明厂商不清问题涉事店铺多为2024年新注册账号 [17] - 平台缺乏AI生成内容提示客观上助推假带货风气 [17] - 技术滥用导致肖像权名誉权双重侵害同时增加消费者误购劣质商品风险 [16] 技术原理与门槛 - 只需采集声音频率音色声调等关键特征配合语速情感参数即可在几秒内完成克隆 [22] - 声音样本来源多样包括推销电话公开演讲客服回电等 [23] - 技术门槛相当于安装手机修图App且逼真度持续提升 [24] 监管与应对 - 北京互联网法院2024年4月宣判全国首例AI声音侵权案明确自然人声音权益保护范围 [28] - 9月1日将上线"白名单制度"要求AI作品"持证上岗" [28] - 目前平台标注"内容为AI技术制作"的实际效果存疑尤其对中老年群体 [29]