AI谣言生成现状 - AI工具被广泛用于快速生成虚假信息 高中生仅用5分47秒即可生成逼真霸凌通报[3] - 个人造谣案例频发 福建网民使用AI剪辑汛情谣言视频 浙江男子生成虚假寻人启事 云南网民制作交通事故伤亡视频[4][5] - 形成灰色产业链 山东某传媒公司利用AI工具编造并发布300余万条谣言内容 抓获87名犯罪嫌疑人 查获近10万个违法违规账号[6] AI工具技术特征 - 技术门槛极低 开源模型爆发增长 云端服务便捷 操作界面极简 普通用户可轻松生成表面逼真的虚假信息[6] - 免费或低成本获取 通过看广告获得积分即可使用文生视频、图生视频等功能 能快速生成汛情、火灾等主题的虚假内容[7] - 部分平台存在限制 某些AI软件拒绝生成警情通报类内容 并提示警徽等元素使用存在法律限制[8] 检测与防御技术进展 - 现有检测算法对已知伪造数据识别准确率超95% 但面临未知技术迭代的泛化性挑战[10] - 研发团队正挖掘跨模型共性异常特征 推动检测范式从"针对单点技术"向"驱动于共性特征"转变[10] - 构建"检测-溯源-防御"治理技术体系 推进轻量化设备部署与对抗性防御技术[10] 行业治理体系构建 - 需形成四维共治体系 个人提升媒介素养 平台部署AI检测系统并实施生成内容强制标识 技术社区研发鉴伪模型 监管部门完善立法[9] - 法规建设持续推进 《人工智能生成合成内容标识办法》要求所有合法模型对生成内容添加水印[9] - 应对未来风险 需重点关注深度伪造技术与社会工程学结合驱动的自动化攻击[10] 青少年媒介素养教育 - 全国45.7%青少年无法识别AI谣言 55.9%未成年人通过短视频获取新闻[13] - 长三角地区形成媒介素养联盟种子校 通过新闻争霸赛、融媒体中心建设等措施提升学生鉴别能力[13] - 2025年新学年启动跨省媒介素养联动计划 覆盖AIGC伦理、社会热点调查等领域 拟构建全国性教育体系[14]

AI造谣现象与案例 - 福州永泰网民王某某通过AI工具剪辑视频散布汛情谣言，扰乱社会秩序并误导防汛工作，已被行政处罚[2][5] - 浙江嘉兴一男子使用AI生成虚假"寻人启事"称女儿被抱走，经核查其未婚未育，已被行政拘留[6] - 云南赵某某利用AI制作交通事故伤亡视频并标注"大理州"造成恐慌，经核实为虚假警情，已被行政处罚[6] - 山东枣庄某传媒公司购买10万个实名账号，利用AI批量生产300余万条谣言视频图文，87名犯罪嫌疑人被抓获[8] AI造谣技术特点 - 免费AI工具可快速生成汛情、火灾等敏感主题虚假文案，5分47秒即可伪造包含法律条款的"警情通报"[5][10] - 普通景区照片经AI处理可变成"桥梁断裂事故"视频，文字生成视频工具能拼接新闻画面制造虚假汛情场景[10][12] - AI生成虚假内容技术门槛极低，开源模型爆发式增长和云端服务便捷化加剧了技术大众化趋势[8][12] 行业应对措施 - 暨南大学夏志华团队研发视觉深度伪造检测系统，通过挖掘跨模型共性异常特征提升泛化能力，现有算法对已知伪造识别准确率超95%[12][13][14] - 2025年3月出台《人工智能生成合成内容标识办法》要求合法模型必须对生成内容添加水印[13] - 构建"个人-平台-技术-监管"四维共治体系，包括平台部署AI检测系统、技术社区研发鉴伪模型、监管部门完善立法等[13] 教育领域行动 - 上海高中生实验显示45.7%青少年无法识别AI谣言，55.9%未成年人通过短视频获取新闻[15] - 长三角形成媒介素养联盟种子校，通过新闻争霸赛、融媒体中心建设等提升学生媒介素养[18] - 2025年将启动跨省媒介素养联动计划，覆盖AIGC伦理、社会热点调查等领域，探索全国性教育体系[18][19]

人机协同与AI在新闻业的应用 - 在AI时代下，人的判断力、问题意识和信任建构能力更为重要，新闻价值判断和提问能力仍应由人类主导 [3] - AI擅长生成文本和汇集资料，但缺乏新闻判断能力和独特的叙事能力，无法替代人类在意义构建和故事讲述中的作用 [3][4] - 人机协同生产需保持流程透明性，记者的署名责任直接关系到新闻公信力和信任建构 [3] 算法时代下的媒体责任 - 算法和流量导向破坏了社会信息的权重，主流媒体需回归议程设置能力，避免被算法或大众口味左右 [4] - 在信息传播泥沙俱下的环境下，媒体应强化"把关人"角色，锚定事实并重构公众信任 [4] - 算法权力让渡会挤压社会多样性，都市媒体需呈现多元内容，避免千篇一律的传播 [5] 老龄化社会与都市媒体内容建设 - 适老化传播的核心是内容问题而非仅技术改进，需关注老年人关心的健康知识、政策解读等高质量信息 [5][6] - 上海老年人口占比达37.6%，都市媒体需促进代际共融，避免老年人被排除在内容理解和情感共鸣之外 [6] - 都市媒体应成为连接三代人的中介，提供老年人发声空间，并通过持续报道推动公共议题 [6][7] 都市媒体的社会角色拓展 - 媒体需超越简单告知功能，通过报道提升公众对社会议题的思考力、判断力和行动力 [7] - 技术迭代加剧代际断裂，媒体应承担"召唤"公众的责任，推动社会交往和公共价值守护 [7]