AI技术滥用与黑灰产现状 - AI深度伪造技术被黑灰产从业者用于针对老年人进行诈骗 包括伪造亲属身份进行钱款诈骗以及伪造医生专家身份进行直播卖货[2] - AI换脸换声服务及教程在国内外平台被低价“打包出售” 价格低至1元 境外平台“一条龙服务”标价仅十几元至百元不等[3][5] - 黑灰产卖家提供明码标价的定制服务 “换脸换声视频”制作以虚拟币结算折合人民币463元 只换声音约为228元并可“定制话术”[5] - 存在兜售配合AI伪造技术的专业诈骗软件 可用手机直接拨打视频电话并配合换脸软件 使诈骗难以察觉[6] - 利用AI伪造明星“代言视频”或“祝福视频”以增加产品可信度 AI视频制作服务80元起步 相关软件月卡188元 永久版288元[8][9] - 声音克隆技术门槛低 通过开源软件上传3分钟录音即可训练出声音模型 对较短语句的合成效果几乎无法识别[11] 行业监管与平台应对措施 - 平台制定严格管控规则 要求广告内容不得含有虚构人设为产品背书 并对违规广告主采取限制投放、封禁账户等处置[12] - 国家出台《人工智能生成内容标识办法》 要求使用AI制作的视频内容需添加标识 以限制“冒充专家”的AI视频传播[15] - 深度伪造技术与检测技术处于相互博弈状态 检测技术对于新算法可能存在一定滞后性 需要样本积累[15] - 行业专家指出应对风险需多管齐下 包括提升老年人反诈意识、家庭提供心理与技术支持、鼓励老年人终身学习以识别AI骗局[16] 诈骗手法与受害者分析 - 诈骗分子利用AI技术伪造老年人亲属身份 以“孙子惹祸 急需用钱”等理由进行“定向”诈骗 个案金额往往较大[4][14] - 诈骗的“起点”通常是用户隐私信息泄露 例如通过未知来源App获取手机通讯录、照片等数据 进而利用社交平台公开的声音视频数据进行AI伪造[5] - 诈骗对象多为老年人 利用其对新技术不熟悉、信息获取渠道有限及情感上容易依赖亲人的弱点[2][4]