行业背景与挑战 - 生成式人工智能和大语言模型在2023年底走红后，从业者预言AI将成为互联网虚假内容的“制造机” [1] - 不到两年时间，“AI污染互联网”已成为诸多网友的共识 [1] - AI生成内容与人类创作的界限模糊，其表达能力与人类极为接近，导致辨别困难 [8] - 互联网内容平台对AIGC持矛盾态度：既希望其实现内容多元化以丰富生态，又不愿看到低质量内容污染平台 [5] 平台治理措施 - 抖音上线“AI抖音求真”功能，当用户浏览易产生误解的内容或搜索谣言信息时，可获知完整信息和辟谣内容 [3] - 该功能依托抖音训练的“谣言治理大模型”和“资讯大模型”，以及专门的辟谣运营团队 [3] - 平台实现了精准定义“内容误导性”、“公共价值”、“可证伪”等谣言特征的能力，能主动审查达到一定热度的内容 [3] - 通过提取视频信息、分析主旨、联网搜索，完成对内容是否为谣言的风险判断 [3] - 抖音已将大模型技术应用于谣言治理，自7月以来平台谣言曝光量下降67% [3] 技术方案的局限性 - “AI抖音求真”并非万灵药，可能存在不准确、覆盖面不够完整的情况 [5] - 该功能对于以往存在的谣言类型有效，但对“新鲜事”和“新花样”可能力有未逮 [10] - 其效能主要依托于“谣言治理大模型”的迭代速度，需要跟上AI虚假内容的发展 [10] - 如果权威媒体没有报道相关内容，该功能只能给出“存疑”的判断 [10] - 此招在短时间内只能做到“治标不治本” [8] 创作者生态与平台政策 - 在百模大战初期，抖音、快手、知乎等内容平台已要求创作者主动添加“内容由AI生成”的声明 [5] - 但创作者普遍担心打上AI生成标签会导致作品被限流 [5] - 流量分成政策依然存在，使得当年做“内容农场”的人现在转向做“AI农场”以牟利 [8] - 平台无法取消流量分成，因为这会极大打击正常创作者的积极性 [8]

行业核心观点 - 数字传播行业面临信息验证滞后与谣言快速扩散的核心矛盾 任何个体均可即时生成内容 但事实查证需要更长周期 导致公众最初接触的信息多为未经证实的内容[1] - 平台推出AI辅助验证工具如抖音"AI抖音求真" 通过生成"求真卡"在用户浏览场景中嵌入查证入口 集中呈现事件发展脉络并澄清错误信息 使验证行为随手可及[1] - 该功能重新配置信息传播与事实核查关系 使查证与传播可同时并置 降低公众接近可验证信息的门槛 减少主动检索不同来源的求真成本[2] 技术解决方案 - "AI抖音求真"在用户浏览或搜索可能引发误解的信息时自动触发 提供事件发展脉络和错误澄清 其价值在于将查证入口嵌入日常信息接触场景[1] - 平台通过集中呈现相关材料于同一页面 为公众提供更容易获得的参照 使思考和判断能建立在更充分材料基础上 既不取代个人判断也不简化复杂事件[2] 认知模式变革 - 真相被重新理解为动态生成过程 随新证据加入而补充 随旧信息修正而改写 平台工具旨在创造窗口让公众更早接触支撑判断的材料[3] - 工具帮助用户在第一时间寻找可追溯证据 延缓情绪化反应 使事实呈现更快进入公共视野 促进讨论建立在有依据基础之上[3] 行业影响 - 数字时代真相治理是技术与社会双重问题 需科学手段精准性、文化理解宽容度及制度协商稳定性协同作用[3] - 平台AI工具可提升用户对事实信息的识别与澄清效率 但核心仍需用户主动参与并保持批判性思维以理性应对信息流动[3]

AI技术应用于谣言治理 - 公司近期将AI大模型技术用于谣言治理，一个季度内平台谣言曝光量下降67% [1] - AI大模型能够主动审阅所有有一定热度的资讯，通过提取信息、分析主旨、联网搜索来判断真假并自动处置，将处置周期从几天缩短到几小时 [1] - 平台训练的“谣言鉴定专家”大模型能判断信源是否来自权威媒体报道、政务公开平台或历史谣言库样本，并具备精准定义“内容误导性”、“公共价值”等谣言特征的能力 [1] - 大模型识别谣言的准确率达到85%，并且仍在持续提升 [1] 平台功能升级与用户触达 - 公司在2025年4月推出“辟谣卡”功能，并升级推出“AI抖音求真”功能，在易产生误解的视频内容旁挂载跳转链接 [1] - 用户搜索谣言相关事件关键词时，搜索结果会以“求真卡”形式展现，内容包括事件溯源、澄清信息和权威报道，并对谣言或存疑内容进行显著标注 [2] - “AI抖音求真”功能呈现的内容依托于“谣言治理大模型”、“资讯大模型”及辟谣运营团队，其单日曝光量估测可达近亿次 [2] 多元化辟谣生态建设 - 公司通过热点运营、辟谣账号运营、建立媒体辟谣团等方式打造辟谣生态 [2] - 辟谣运营团队会主动向当事人或有关部门核实谣言风险信号，例如与9个地区的地方公安联动核实并处置“人贩子”谣言，并通过“抖音辟谣”账号发布辟谣内容 [2] 谣言治理的持续挑战 - 谣言的产生难以杜绝，主观编造和传播偏差均会带来不实信息 [3] - 辟谣工作面临查证和时效性的挑战，热点事件常处于动态发展中导致谣言反转，传播方式的变化也使信源本身受到污染 [3]

AI谣言治理技术应用 - 平台将AI大模型技术用于谣言治理，一个季度内平台谣言曝光量下降67% [1] - 大模型主动审阅有一定热度的所有资讯，将疑似谣言的处置周期从几天缩短到几小时 [1] - 大模型具备判断信源权威性及精准定义"内容误导性"等特征的能力，识别准确率达85%且持续提升 [1] 平台功能升级与运营 - 2025年4月推出"辟谣卡"功能，近期升级推出"AI抖音求真"功能，为疑似不实内容挂载跳转链接 [1] - 用户搜索谣言相关事件关键词时，结果以"求真卡"形式展现事件溯源和澄清信息，显著标注"谣言"或"存疑" [2] - "AI抖音求真"功能单日曝光量估测近亿次，内容依托于"谣言治理大模型"和辟谣运营团队 [2] 综合治理生态建设 - 平台通过热点运营、辟谣账号运营、建立媒体辟谣团等方式打造辟谣生态 [2] - 辟谣运营团队主动核实谣言风险信号，例如与9个地区公安联动处置"人贩子"谣言并发布辟谣内容 [2] - 谣言的产生难以杜绝，辟谣的查证和时效性面临挑战，需要多方共治 [3]

公司技术举措 - 抖音首次系统披露平台引入大模型技术治理谣言的“方法论”并上线“AI抖音求真”功能，当用户浏览误导性内容或搜索相关谣言时可及时获取事件完整信息及辟谣内容[1] - 抖音训练出的“谣言鉴定专家”能够主动审阅平台上达到一定热度的所有资讯内容，通过提取视频信息、分析主旨、联网搜索完成对内容是否为谣言的风险判断并自动响应分级处置[3] - 抖音采用“无依据不当臆测内容”的大模型针对性处置一些没有可靠依据、仅为臆测的内容，识别准确率能达90%左右[11] - 抖音将“辟谣卡”升级为“AI抖音求真”功能，单日曝光量估测可达近亿次，在视频流和搜索场景中用户均可通过“求真卡”获知事件完整信息及辟谣内容[7][8][10] 公司治理成效 - 在谣言治理智能体的助力下，近一个季度来平台谣言曝光量下降67%，力求实现对谣言的“发现即管控”[1][5] - 与过往人工发现谣言的链路不同，抖音AI治理谣言链路核心逻辑在于强调“发现即管控”，能够在谣言萌芽阶段即实施有效干预、传播阶段实现辟谣感知[3] - 例如在处置“老人7月乘高铁有新折扣”相关谣言时，智能体在内容刚获热度时就关注到并拆解信息，同步联网检索权威信源，最终判定为捏造事实并迅速处置[5] 行业挑战与背景 - 《科学》杂志2018年研究表明，谣言在社交媒体上的传播速度比真实信息快6倍，且传播范围更广、转发频次更高[2] - 当前社媒生态中谣言伴随热点事件频出，呈现传播速度更快、形式更多样、隐蔽性和流变性更强等特点，辟谣查证和时效性面临挑战[6][7] - 除纯粹虚假谣言外，平台治理还面临更复杂的“问题性信息”，如传播偏差、真相动态演变等因素导致查证难度极大，一些不当臆测类内容极易引发公众误解[11] 行业治理方向 - 良性的平台辟谣生态构建不能仅依靠平台自身的技术防御与责任担当，更需要发动广大用户共建“认知防线”以实现携手共治[2][13] - 行业观点认为引导利用AI模型来斩断谣言流转的各环节链条是大势所趋，技术治理上不应有代际差，需与所对抗的技术保持在同一代[5] - 谣言治理是一场智慧与技术博弈的“持久战”，需要平台端和政策端持续发力，更需要全社会立体式的参与和互动[12][13]

平台AI谣言治理举措 - 抖音上线"AI抖音求真"功能 针对误导性内容和谣言提供事实展示及澄清 [1] - 平台将大模型能力应用于谣言治理 实现"发现即管控" 一个季度内谣言曝光量下降67% [1] - 通过热点运营/辟谣账号运营/媒体辟谣团等方式打造辟谣内容生态 并向用户推出"辟谣卡"功能 [3] AI谣言特征与危害 - AI谣言具有门槛更低/传播更强/变异更频繁/更易跨平台扩散等特点 大幅提升网络防谣辟谣难度 [1] - 典型AI谣言包括"AI预测彩票中奖"/"老年人坐火车打折"/"地震小孩被埋图"等 歪曲政策/消解社会公平/侵蚀社会信任 [1] - AI谣言滋生灰黑利益链 导致相关部门和机构需频繁发声辟谣 [1] 治理模式升级 - 治理模式从被动转为主动 从"点"的治理转向"面"的升级 技术工具日益丰富 [3] - 大模型应用于谣言识别/研判/处置 极大提升识别能力和处置效率 [3] - 平台通过技术篱笆完善履行信息"守门人"责任 有利于涵养清朗健康的内容生态 [2] 协同治理需求 - AI谣言存在跨平台传播和变种快的特点 需要监管部门完善法律法规并建立跨平台信息共享与联合惩戒机制 [4] - 需要大众媒体/专业机构及时发声 社会公众培养健康网络素养和理性上网习惯 [4] - 需从单纯技术防线过渡到多主体协同/全社会共同参与的共治阶段 [4]

平台应对AI内容新规举措 - 抖音上线“AI抖音求真”功能，在易产生误解或疑似不实信息的内容旁挂载跳转链接，用户点击可查看“求真卡”获取事件完整信息、辟谣内容及权威报道 [1] - 抖音在搜索结果中以“求真卡”形式展示谣言事件，内容包括事件溯源、澄清信息、当事人发声，并对谣言或存疑内容进行显著标注 [1] - B站发布“辟谣专区”搜寻指引视频，通过官方账号“哔哩哔哩治理小分队”演示如何寻找该栏目，栏目内发布各类辟谣相关内容 [1] AI生成内容标识法规实施 - 《人工智能生成合成内容标识办法》于9月1日正式施行，要求对AI生成合成内容进行显式标识和隐式标识 [2] - DeepSeek、抖音、微信、B站等多个平台发布公告，明确落实该办法的具体举措并上线AI标识功能 [2]

平台治理策略 - 抖音上线"AI抖音求真"功能 针对误导性内容和谣言提供事实展示及澄清 [1] - 平台将大模型能力应用于谣言治理 实现"发现即管控" 一个季度内谣言曝光量下降67% [1] - 通过热点运营 辟谣账号运营 媒体辟谣团等方式构建辟谣内容生态 [3] 技术应用成效 - 引入大模型识别 研判 处置机制 显著提升谣言识别能力和处置效率 [3] - 平台技术工具日益丰富 治理AI谣言的技术防线更加稳固 [3] - 治理模式从被动转为主动 从"点"的治理转向"面"的升级 [3] 行业挑战特征 - AI谣言具有门槛低 传播强 变异频繁 易跨平台扩散等特点 [1] - 误导性内容存在歪曲政策解读 消解社会公平 侵蚀社会信任等问题 [1] - 灰黑利益链利用AI技术造假造谣 增加网络防谣辟谣难度 [1] 生态协同需求 - 需要监管部门完善法律法规 建立跨平台信息共享与联合惩戒机制 [4] - 大众媒体和专业机构需及时发声 社会公众需培养健康网络素养 [4] - 治理需从技术防线迈向多主体协同 全社会参与共治阶段 [4]

公司战略与治理成效 - 公司将谣言治理列为2025年最重要的工作之一 [2] - 平台将大模型技术应用于谣言治理，近一个季度谣言内容曝光量下降67% [2][3][5] - 大模型技术使单例谣言的处置时效从以“天”为单位缩短至以“小时”为单位 [3] 技术应用与能力 - 治理大模型能够主动审阅达到一定热度的资讯内容，通过提取视频信息、分析主旨、联网搜索完成风险判断 [3][5] - 该大模型识别谣言的准确率达到85%，并且仍在持续提升中 [5] - 大模型的搜索信源来自权威媒体报道、政务公开平台及历史谣言库样本，具备精准定义“内容误导性”等特征的能力 [5] 产品功能创新 - 公司上线“AI抖音求真”功能，为用户提供针对误导性内容与谣言的事实展示及澄清 [1][6][8] - 该功能在用户浏览易产生误解的视频时提供跳转链接，点击可抵达展示事件完整信息的“求真卡”页面 [6][8] - 在搜索相关事件关键词时，结果会以“求真卡”形式展现，内容包括事件溯源、澄清信息、权威报道等，并对谣言或存疑内容进行显著标注 [6] - “AI抖音求真”功能单日曝光量估测可达近亿次 [8] 运营与生态建设 - 公司通过“AI大模型+专项运营”的方式运作“AI抖音求真”功能 [8] - 平台通过热点运营、辟谣账号运营、建立媒体辟谣团等方式持续打造辟谣内容生态 [8] - 辟谣运营团队在发现谣言风险信号时，会主动向当事人或有关部门核实内容真伪 [8]

网络谣言的挑战与特征 - 虚假信息在社交平台传播成为难题，例如网民为博取关注发布不实帖文并被行政拘留 [1] - AI技术降低谣言制造门槛，换脸等技术使谣言更具迷惑性，信息真实性扑朔迷离 [1] - 谣言利用社交平台转发、点赞、评论实现裂变传播，情绪化与猎奇内容加剧扩散 [1] 平台方的技术治理方案 - 平台需秉持技术主义，发挥技术优势加强对不实信息治理 [2] - 抖音平台尝试以AI治理AI，利用大模型语义理解与模式识别能力实时分析海量信息，提升谣言识别准确率和响应速度 [3] - 大模型技术使平台治理化被动为主动，将单例谣言发现处置时效从天单位缩短至小时单位，实现发现即管控 [3] - 平台推出AI抖音求真功能，为用户提供一键查证工具，通过求真卡获知事件完整信息及辟谣内容 [3] 协同治理体系的构建 - 谣言治理是系统工程，仅靠平台难以根治，因造谣成本低而辟谣需投入大量人力时间专业资源 [4] - 辟谣信息传播常滞后于谣言，且谣言利用先入为主规律，事后辟谣难以完全消除负面影响 [4] - 需构建多元共治体系，如媒体发挥权威信息源作用，专业机构加强科普与事实核查 [6] - 提升公众媒介素养以增强谣言辨别能力，形成平台、机构、公众协同发力的治理合力 [6]