早在生成式人工智能（AIGC）、大语言模型走红的2023年年底，就曾有不少从业者预言AI将会成为互 联网虚假内容的"制造机"。现实也确实如此，仅仅过去不到两年时间，"AI污染互联网"就已经成为了诸 多网友的共识。 作为压实平台主体责任的一环，抖音近日再次出手，"AI抖音求真"功能目前已正式上线。根据抖音方面 介绍，当用户浏览到容易产生误解的内容，或是搜索谣言相关的信息时，就能够通过"AI抖音求真"获知 事件的完整信息，了解相关辟谣内容。 抖音相关负责人表示，近期已将大模型技术应用于谣言治理，7月以来平台谣言曝光量下降67%。以往 的谣言治理往往需要依靠媒体报道或机构发声，有了辟谣信息就能将谣言信息点人工纳入谣言库，并以 此为样本，回查、下架和拦截新增的同类谣言内容。 具体来说，"AI抖音求真"依托于抖音训练的"谣言治理大模型"、"资讯大模型"，以及专门的辟谣运营团 队，实现了精准定义"内容误导性"、"公共价值"、"可证伪"等谣言特征的能力，做到"化被动为主动"， 主动审查平台上到达一定热度的内容，并通过提取视频信息、分析主旨、联网搜索，来完成对内容是否 为谣言的风险判断。 当然，"AI抖音求真"也并非万灵药， ...

行业核心观点 - 数字传播行业面临信息验证滞后与谣言快速扩散的核心矛盾 任何个体均可即时生成内容 但事实查证需要更长周期 导致公众最初接触的信息多为未经证实的内容[1] - 平台推出AI辅助验证工具如抖音"AI抖音求真" 通过生成"求真卡"在用户浏览场景中嵌入查证入口 集中呈现事件发展脉络并澄清错误信息 使验证行为随手可及[1] - 该功能重新配置信息传播与事实核查关系 使查证与传播可同时并置 降低公众接近可验证信息的门槛 减少主动检索不同来源的求真成本[2] 技术解决方案 - "AI抖音求真"在用户浏览或搜索可能引发误解的信息时自动触发 提供事件发展脉络和错误澄清 其价值在于将查证入口嵌入日常信息接触场景[1] - 平台通过集中呈现相关材料于同一页面 为公众提供更容易获得的参照 使思考和判断能建立在更充分材料基础上 既不取代个人判断也不简化复杂事件[2] 认知模式变革 - 真相被重新理解为动态生成过程 随新证据加入而补充 随旧信息修正而改写 平台工具旨在创造窗口让公众更早接触支撑判断的材料[3] - 工具帮助用户在第一时间寻找可追溯证据 延缓情绪化反应 使事实呈现更快进入公共视野 促进讨论建立在有依据基础之上[3] 行业影响 - 数字时代真相治理是技术与社会双重问题 需科学手段精准性、文化理解宽容度及制度协商稳定性协同作用[3] - 平台AI工具可提升用户对事实信息的识别与澄清效率 但核心仍需用户主动参与并保持批判性思维以理性应对信息流动[3]

科技日报讯 （记者杨雪）用AI治理谣言，立竿见影。抖音平台近期将AI大模型技术用于谣言治 理，一个季度平台谣言曝光量下降67%。 近日，在抖音不实信息治理开放日活动上，抖音不实信息治理负责人李博介绍，以往发现谣言往往 需要在媒体或机构发声后，人工入库、回查、下架和拦截，一个疑似谣言的处置经常要几天。现在，大 模型主动审阅有一定热度的所有资讯，提取信息、分析主旨、联网搜索，判断真假并自动处置，将周期 缩短到几小时。 而且，用户在搜索谣言相关的事件关键词时，搜索结果将以"求真卡"形式展现。内容包括事件溯 源、澄清信息、权威报道等。如事件是谣言或疑似谣言，将被显著标注为"谣言"或"存疑"。 据了解，"AI抖音求真"呈现的内容依托于平台训练的"谣言治理大模型""资讯大模型"及辟谣运营团 队。目前，"AI抖音求真"的单日曝光量估测可达近亿次。 抖音近年来也通过热点运营、辟谣账号运营、建立媒体辟谣团等方式来打造辟谣生态。辟谣运营团 队在发现一些谣言风险信号时，也会主动向当事人或有关部门核实内容真伪。如刚过去的暑假，社交媒 体接连出现各地涌现"人贩子"相关信息。抖音运营团队与各地方公安联动，对四川、山西、河北、海 南、重庆 ...

而且，用户在搜索谣言相关的事件关键词时，搜索结果将以"求真卡"形式展现。内容包括事件溯源、澄 清信息、权威报道等。如事件是谣言或疑似谣言，将被显著标注为"谣言"或"存疑"。 据了解，"AI抖音求真"呈现的内容依托于平台训练的"谣言治理大模型""资讯大模型"及辟谣运营团队。 目前，"AI抖音求真"的单日曝光量估测可达近亿次。 用AI治理谣言，立竿见影。抖音平台近期将AI大模型技术用于谣言治理，一个季度平台谣言曝光量下 降67%。 近日，在抖音不实信息治理开放日活动上，抖音不实信息治理负责人李博介绍，以往发现谣言往往需要 在媒体或机构发声后，人工入库、回查、下架和拦截，一个疑似谣言的处置经常要几天。现在，大模型 主动审阅有一定热度的所有资讯，提取信息、分析主旨、联网搜索，判断真假并自动处置，将周期缩短 到几小时。 据介绍，抖音培养"谣言鉴定专家"大模型，能判断搜索的信源来自权威媒体报道、政务公开平台，还是 历史谣言库样本。此外，大模型拥有精准定义"内容误导性""公共价值""可证伪"等谣言特征的能力。 李博说，在大模型助力下，近一个季度以来，抖音谣言内容曝光量下降67%。大模型识别准确率达 85%，目前仍在持续提升 ...

"重磅新规！老年人购火车票7月1日起可享折扣""震惊！'三无'辣条毒害入侵全国小学".....近年来伴随技术发展，内容创作愈发便利的同时，AI等工具批量 造谣进一步降低了谣言制造门槛，也加剧了网络上的虚假信息污染。在谣言治理上，能否用AI打败AI？ 近日，抖音首次系统披露了平台引入大模型技术治理谣言的"方法论"，并宣布上线"AI抖音求真"功能。当用户浏览误导性内容或搜索相关谣言时，"求真 卡"功能可令用户及时获取事件完整信息及辟谣内容。这意味着，短视频平台在谣言治理方面从被动应对向主动防御迈出了关键一步。 "谣言治理是抖音2025年最重要的工作之一。"抖音不实信息治理负责人李博在开放日上坦言，在谣言治理智能体的助力下，近一个季度来平台谣言曝光量 下降67%，力求实现对谣言的"发现即管控"。 但这并不意味着谣言会消失，"治理谣言是一场持久战，任重道远。"李博表示，良性的平台辟谣生态构建，不能仅依靠平台自身的技术防御与责任担当， 更需要发动广大用户共建"认知防线"。只有当媒介端乃至每一位信息消费者都积极发声，才能为平台识别和治理谣言提供坚实的信息基础，"清朗网络打 击谣言，需要媒体、机构、平台，和每一位用户携手共 ...

平台AI谣言治理举措 - 抖音上线"AI抖音求真"功能 针对误导性内容和谣言提供事实展示及澄清 [1] - 平台将大模型能力应用于谣言治理 实现"发现即管控" 一个季度内谣言曝光量下降67% [1] - 通过热点运营/辟谣账号运营/媒体辟谣团等方式打造辟谣内容生态 并向用户推出"辟谣卡"功能 [3] AI谣言特征与危害 - AI谣言具有门槛更低/传播更强/变异更频繁/更易跨平台扩散等特点 大幅提升网络防谣辟谣难度 [1] - 典型AI谣言包括"AI预测彩票中奖"/"老年人坐火车打折"/"地震小孩被埋图"等 歪曲政策/消解社会公平/侵蚀社会信任 [1] - AI谣言滋生灰黑利益链 导致相关部门和机构需频繁发声辟谣 [1] 治理模式升级 - 治理模式从被动转为主动 从"点"的治理转向"面"的升级 技术工具日益丰富 [3] - 大模型应用于谣言识别/研判/处置 极大提升识别能力和处置效率 [3] - 平台通过技术篱笆完善履行信息"守门人"责任 有利于涵养清朗健康的内容生态 [2] 协同治理需求 - AI谣言存在跨平台传播和变种快的特点 需要监管部门完善法律法规并建立跨平台信息共享与联合惩戒机制 [4] - 需要大众媒体/专业机构及时发声 社会公众培养健康网络素养和理性上网习惯 [4] - 需从单纯技术防线过渡到多主体协同/全社会共同参与的共治阶段 [4]

B站治理团队官方账号"哔哩哔哩治理小分队"日前也发布了指引视频，为用户演示如何寻找辟谣专区。 该栏目内发布了各类辟谣相关内容。 南都此前报道，《人工智能生成合成内容标识办法》9月1日起正式施行，要求对人工智能生成合成内容 进行显式标识和隐式标识。南都记者注意到，DeepSeek、抖音、微信、B站等多个平台发布公告，明确 落实该办法的具体举措，上线AI标识。 "抖音集团"账号于16日发文称，当用户在抖音浏览视频时，一些易产生误解、谈及疑似不实信息的内 容，将会被挂载"AI抖音求真"跳转链接。用户点击即可跳转至"求真卡"页面，获知事件的完整信息。一 些热点事件所对应的"求真卡"，还会展示更全面的谣言点信息，供用户了解复杂事件中的多例关键事实 点。 当用户在抖音搜索涉及谣言事件的关键词时，搜索结果也会以"求真卡"形式展现。内容包括事件溯源、 澄清信息、权威报道、当事人发声等。如果事件为谣言或疑似谣言，还将被显著标注为"谣言"或"存 疑"。 《人工智能生成合成内容标识办法》施行已过半月，平台也陆续出台举措应对造谣。9月17日，南都N 视频记者注意到，抖音上线了"AI抖音求真"功能，用户通过该功能可获知事件完整信息，了 ...

平台治理策略 - 抖音上线"AI抖音求真"功能 针对误导性内容和谣言提供事实展示及澄清 [1] - 平台将大模型能力应用于谣言治理 实现"发现即管控" 一个季度内谣言曝光量下降67% [1] - 通过热点运营 辟谣账号运营 媒体辟谣团等方式构建辟谣内容生态 [3] 技术应用成效 - 引入大模型识别 研判 处置机制 显著提升谣言识别能力和处置效率 [3] - 平台技术工具日益丰富 治理AI谣言的技术防线更加稳固 [3] - 治理模式从被动转为主动 从"点"的治理转向"面"的升级 [3] 行业挑战特征 - AI谣言具有门槛低 传播强 变异频繁 易跨平台扩散等特点 [1] - 误导性内容存在歪曲政策解读 消解社会公平 侵蚀社会信任等问题 [1] - 灰黑利益链利用AI技术造假造谣 增加网络防谣辟谣难度 [1] 生态协同需求 - 需要监管部门完善法律法规 建立跨平台信息共享与联合惩戒机制 [4] - 大众媒体和专业机构需及时发声 社会公众需培养健康网络素养 [4] - 治理需从技术防线迈向多主体协同 全社会参与共治阶段 [4]

近年来，伴随AI技术发展，内容创作越来越便利，而图片、视频等形式的造假内容更加"以假乱真"。网络谣言治理已成为全行业、全社会需要共同应对 的挑战。 近期，网络谣言治理有了新解法。9月16日，抖音举办不实信息治理开放日，分享平台治理谣言的"方法论"，并宣布上线"AI抖音求真"功能。该功能可 为用户提供针对误导性内容与谣言的事实展示及澄清。 抖音表示，谣言治理是抖音2025年最重要的工作之一。近期，平台已将大模型能力应用于谣言治理。一个季度平台谣言曝光量下降67%。 谣言治理引入大模型技术，近一个季度谣言曝光量下降67% 能否用AI治理谣言？近期，抖音已尝试在谣言治理工作中引入大模型技术，力求实现对谣言"发现即管控"。代表了平台治理的新思路，展现了技术向善 的积极面。 抖音不实信息治理负责人李博介绍，过去发现谣言往往需要媒体报道或机构发声。有了辟谣信号才能由人工将谣言信息点纳入谣言库，以此为样本回 查、下架和拦截新增的谣言。单例谣言的发现和处置需以"天"为单位。 而谣言治理所使用的大模型技术能够"化被动为主动"，主动"审阅"平台上到达一定热度的所有资讯内容，通过提取视频信息、分析主旨、联网搜索，完 成风险判断，进 ...

"快跑，周杰伦演唱会海沧隧道着火了！""厦门海沧隧道严重事故，周杰伦演唱会！"不仅有配文，还有 人群四散而逃的视频，看到这条蹭明星演唱会热度编造险情的网络谣言，你会信以为真吗？ 近日，据公安部网安局消息，网民张某为博取关注，在社交平台发布不实帖文，目前，公安机关依法对 张某处以行政拘留。 在当下信息爆炸的时代，社交平台已成为公众获取信息的重要渠道。然而，虚假信息的传播也成为一大 难题。如张某般为博眼球、蹭流量，不惜故意发布虚假消息、造谣生事的人不时出现。 而且，随着AI技术的快速发展，谣言制造的门槛被显著降低了，AI换脸等技术手段让谣言更具迷惑 性，更能"以假乱真"。当技术能轻易制造"有图有真相"的谎言，信息的真实性由此变得扑朔迷离。网络 谣言治理，正成为全行业、全社会需要应对的挑战。 需看到，谣言已从之前的口口相传，到如今利用社交平台的转发、点赞、评论，短时间内实现裂变传 播，覆盖了大量用户。而且，一些情绪化、猎奇性内容，很可能加剧谣言的扩散。 由此可以发现，网络谣言的产生其实并非只是谣言由线下搬到了线上，其屡禁不止的背后，是谣言本身 充分利用了信息传播媒介的升级，愈发泛滥。 对此，处在治理最前线的平台方要 ...