政策法规实施 - 《人工智能生成合成内容标识办法》于9月1日正式施行 要求对AI生成内容进行显式标识和隐式标识 [1][4] - 显式标识需以文字、声音、图形等可感知方式呈现 隐式标识通过技术措施嵌入文件数据 [4] - 办法由国家网信办、工信部、公安部、国家广电总局联合制定 共包含14条规定 [4] 行业违规现状 - 9月1日新规施行后 仍存在未标注AI创作的合成视频 例如某情感博主使用刘姓女明星形象制作"鸡汤"视频 点赞量达数千至上万 [5] - 该未标注账号店铺上线90多件商品 包括抽纸、牙膏、护发膜、养生茶等日用消费品 [5] - 今年5月调查显示 孙俪邓超等明星AI伪造视频仍大量存在 被用于推荐减肥类产品且未标注AI生成 [4] 灰色产业链模式 - 不法分子利用AI深度伪造技术快速起号引流 通过带货、卖课等方式变现 [1][4] - 形成"起号、转型、转卖"的完整产业链 克隆明星声音制作鸡汤哲理视频实现引流变现 [4] - 伪造账号被明码标价置于交易网站 存在完整灰色产业链条 [4] 行业治理挑战 - 学者指出网络虚假信息系长期顽疾 AI技术使其传播更便捷 [5] - 平台需承担审核责任并掌握鉴别技术 对AI生成内容进行标注 [5] - 信息发布需遵守底线 不得误导公众或损害合法权益 平台应及时处理虚假信息 [5]

有海外调查机构统计数据称，2023年5月至12月期间，生成虚假文章的网站数增长1000%以上，内容涉 及15种语言。AI技术正驱动认知博弈进入辨别真伪更难、操作门槛更低、传播效率更高的新阶段 在数据采集、内容生产与渠道分发等环节，AI深度介入认知博弈，形成了系统性、隐蔽性更强的价值 渗透模式，越来越有可能对社会价值体系形成多维冲击 文 |《瞭望》新闻周刊记者 张翊飞 近日，韩国下届总统热门人选、共同民主党前党首李在明竞选团队接到举报称，有人制作并传播李在明 辱骂其妻子金惠景的AI深度伪造视频。该伪造视频显示，金惠景接受调查人员问话后回家，遭李在明 辱骂。4月16日，李在明竞选团队对持续传播相关视频的十余名博主提起诉讼。 事件反映出AI时代信息生产与传播的方式发生了根本性变化，暴露出AI深度介入认知领域的现实风 险。 认知博弈本质是通过影响目标对象的思想认知来改变其行为模式，达到"不战而屈人之兵"的制胜效果。 当前，大数据、生成式人工智能、推荐算法等技术广泛应用，使传统认知博弈方式发生改变：AI通过 数据增强重构信息环境，影响公众对事实的认知基础；生成式人工智能技术能以低成本批量制造文本及 高仿真音视频，消解真 ...

AI技术滥用与电信网络诈骗犯罪趋势 - AI换脸、语音合成等技术被不法分子用于精准诈骗，技术监管和规范亟待加强[1][4] - 2024年电信网络诈骗案件审结4万余件8.2万余人，案件数和被告人数同比分别上升29.4%、26.7%[4] - 犯罪呈现集团化、跨境化趋势，境外团伙通过"海外高薪"利诱人员出境作案，衍生关联犯罪[4][6] 司法应对与技术治理措施 - 最高法将出台规范性文件完善AI深度伪造的法律适用，建立追踪溯源体系嵌入可追溯标识[1][9] - 强化反诈技术研发，提升境外涉诈电话识别和APP拦截能力，加强国际执法合作[6][7] - 针对网络暴力出台司法解释，明确诽谤认定标准及公诉程序，推动多元共治[10][11] 帮信罪治理与行业协作 - 帮信罪案件呈现低龄化、链条化特征，"两卡"类案件为主，需统一裁判标准[13] - 法院推动行刑衔接机制优化，构建多层次惩戒体系，加强部门协作与源头治理[13] - 法治宣传重点针对学生、农民等易涉案群体，提升社会认知度[13]