防止AI造谣，源头治理是关键。生成合成服务提供者要强化技术的安全性和合规性，在算法设计阶段 就应嵌入伦理约束，管理好训练语料，做到清晰标识。互联网应用程序分发平台也要不断升级审核体 系，提高对深度伪造内容的检测精度，在借助AI治理谣言的同时，完善人工复核机制弥补算法短板。 谣言止于智者，更止于法治。9月1日起，《人工智能生成合成内容标识办法》施行。《互联网信息服务 深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定也已相继出台。下一步要继续填补法 律空白，与时俱进完善细化规范AI技术应用的法律法规，加强法规执行，为制作传播生成合成内容的 相关主体划定法律的红线。 AI谣言的治理并非一日之功，要以技术制衡技术、以责任锁住风险。在信息生成到传播的全链条中， 包括大模型开发者、互联网应用程序分发平台、使用者等都应各负其责。相关监管部门应在延续已有网 络虚假信息处理机制基础上进行重点监测。源头严防、过程严管、违规严惩，才能有效消除AI谣言滋 生的土壤。（完） 近日，网上接连出现多起虚构突发事件、编造公共政策、捏造社会民生领域谣言等案件，引发社会广泛 关注。多地公安机关通报显示，一些不法分子为博眼球蹭热度、吸粉 ...

早在生成式人工智能（AIGC）、大语言模型走红的2023年年底，就曾有不少从业者预言AI将会成为互 联网虚假内容的"制造机"。现实也确实如此，仅仅过去不到两年时间，"AI污染互联网"就已经成为了诸 多网友的共识。 作为压实平台主体责任的一环，抖音近日再次出手，"AI抖音求真"功能目前已正式上线。根据抖音方面 介绍，当用户浏览到容易产生误解的内容，或是搜索谣言相关的信息时，就能够通过"AI抖音求真"获知 事件的完整信息，了解相关辟谣内容。 抖音相关负责人表示，近期已将大模型技术应用于谣言治理，7月以来平台谣言曝光量下降67%。以往 的谣言治理往往需要依靠媒体报道或机构发声，有了辟谣信息就能将谣言信息点人工纳入谣言库，并以 此为样本，回查、下架和拦截新增的同类谣言内容。 具体来说，"AI抖音求真"依托于抖音训练的"谣言治理大模型"、"资讯大模型"，以及专门的辟谣运营团 队，实现了精准定义"内容误导性"、"公共价值"、"可证伪"等谣言特征的能力，做到"化被动为主动"， 主动审查平台上到达一定热度的内容，并通过提取视频信息、分析主旨、联网搜索，来完成对内容是否 为谣言的风险判断。 当然，"AI抖音求真"也并非万灵药， ...

平台AI谣言治理举措 - 抖音上线"AI抖音求真"功能 针对误导性内容和谣言提供事实展示及澄清 [1] - 平台将大模型能力应用于谣言治理 实现"发现即管控" 一个季度内谣言曝光量下降67% [1] - 通过热点运营/辟谣账号运营/媒体辟谣团等方式打造辟谣内容生态 并向用户推出"辟谣卡"功能 [3] AI谣言特征与危害 - AI谣言具有门槛更低/传播更强/变异更频繁/更易跨平台扩散等特点 大幅提升网络防谣辟谣难度 [1] - 典型AI谣言包括"AI预测彩票中奖"/"老年人坐火车打折"/"地震小孩被埋图"等 歪曲政策/消解社会公平/侵蚀社会信任 [1] - AI谣言滋生灰黑利益链 导致相关部门和机构需频繁发声辟谣 [1] 治理模式升级 - 治理模式从被动转为主动 从"点"的治理转向"面"的升级 技术工具日益丰富 [3] - 大模型应用于谣言识别/研判/处置 极大提升识别能力和处置效率 [3] - 平台通过技术篱笆完善履行信息"守门人"责任 有利于涵养清朗健康的内容生态 [2] 协同治理需求 - AI谣言存在跨平台传播和变种快的特点 需要监管部门完善法律法规并建立跨平台信息共享与联合惩戒机制 [4] - 需要大众媒体/专业机构及时发声 社会公众培养健康网络素养和理性上网习惯 [4] - 需从单纯技术防线过渡到多主体协同/全社会共同参与的共治阶段 [4]

平台治理策略 - 抖音上线"AI抖音求真"功能 针对误导性内容和谣言提供事实展示及澄清 [1] - 平台将大模型能力应用于谣言治理 实现"发现即管控" 一个季度内谣言曝光量下降67% [1] - 通过热点运营 辟谣账号运营 媒体辟谣团等方式构建辟谣内容生态 [3] 技术应用成效 - 引入大模型识别 研判 处置机制 显著提升谣言识别能力和处置效率 [3] - 平台技术工具日益丰富 治理AI谣言的技术防线更加稳固 [3] - 治理模式从被动转为主动 从"点"的治理转向"面"的升级 [3] 行业挑战特征 - AI谣言具有门槛低 传播强 变异频繁 易跨平台扩散等特点 [1] - 误导性内容存在歪曲政策解读 消解社会公平 侵蚀社会信任等问题 [1] - 灰黑利益链利用AI技术造假造谣 增加网络防谣辟谣难度 [1] 生态协同需求 - 需要监管部门完善法律法规 建立跨平台信息共享与联合惩戒机制 [4] - 大众媒体和专业机构需及时发声 社会公众需培养健康网络素养 [4] - 治理需从技术防线迈向多主体协同 全社会参与共治阶段 [4]

制造出的虚假信息更具迷惑性，"AI(人工智能)幻觉"带来"一本正经地胡说八道"……易传播、难防治 的"AI谣言"，对政府监管部门、互联网平台、技术研发者以及社会各界提出了新挑战。 如何遏制人工智能"说谎"？需要技术完善与规制，也需要系统性治理。多名受访专家表示，要完善法律 规范和部门监管，推动形成多方联动的共治格局。 亮明法律底线，增强对"AI谣言"的威慑力 与此同时，"AI谣言"案件取证难，困扰着办案机关。"解决涉'AI谣言'案件取证难，需构建一套适应AI 技术特性的证据收集与认定系统。"杨清望建议，通过建立完善案件证据的司法认定规则与标准，将不 涉及商业秘密和个人隐私的平台算法透明化，以此破解证据与责任认定难题。 一些地方公安机关已经在监测和识别"AI谣言"上有所探索。"我们与科研机构、企业密切合作，进一步 提高对恶意'深度伪造'信息的监测预警和快速识别能力，与相关部门合作建立网络谣言巡查监测、核查 反馈、会商研判、线索移送、打击处置的闭环机制，对于通过AI等方式合成的虚假信息，第一时间依 法依规处理。"辽宁沈阳市公安局网络安全保卫支队民警杨永志表示。 加固技术堤坝，斩断"AI谣言"的传播链 有网友发现， ...