大模型助力谣言治理 “发现即管控”,抖音谣言曝光量下降67%
抖音:谣言治理是2025年最重要的工作之一...
在信息以前所未有的速度和规模流动的时代,谣言的治理已成为所有内容平台必须面对的“持久战”。
2025年9月16日,抖音举办了一场不实信息治理开放日活动,展示了其最新的“方法论”。抖音方面表示,谣言治理是其2025年最重要的工作之一,而在大模型技术的助力下,平台近一个季度的谣言曝光量已下降67%。
这背后是一整套从被动响应到主动干预、从平台防御到全民共治的逻辑重塑。
一、 “发现即管控”
长期以来,平台治理谣言的链路更像是一种“消防员”模式:依赖媒体报道、机构发声或用户举报来发现“火情”,再由人工将确认的谣言点纳入样本库,进行回查、拦截和下架。这个过程的核心痛点在于“滞后性”,抖音不实信息治理负责人李博在活动中坦言,单例谣言的发现和处置时效往往需要以“天”为单位。 在谣言传播速度呈指数级增长的今天,这种滞后性是致命的。《科学》杂志曾有研究指出,社交媒体上谣言的传播速度是真实信息的6倍。加之AI技术降低了内容生产门槛,使得谣言的生产更轻易、形式更多样、隐蔽性更强,传统的人工治理模式已显得力不从心。 抖音给出的解法,是将AI从辅助工具提升为核心引擎,实现从“化被动为主动”的根本转变。其核心逻辑,被概括为四个字——“发现即管控”。
这一逻辑的实现,依托于一套专为谣言治理打造的大模型识别系统。其工作如下:
- 内容召回与信息提取:当平台上的资讯内容达到一定的传播热度阈值后,AI大模型会自动介入。它会提取视频的核心信息,包括标题、通过OCR技术转写的画面文字,以及通过ASR技术转写的音频内容。
- 联网检索与风险研判:模型将提取到的信息与公开的权威信源进行比对检索,这些信源包括权威媒体报道、政务公开平台以及平台自身积累的历史谣言库样本。通过分析信息中的存疑之处,模型会对内容进行谣言风险研判。
- 结论输出与自动处置:最终,模型会输出该视频的风险等级和对应的具体谣言点,并根据预设策略进行处置,例如直接下架视频,或将确认为谣言的内容点入库,用于后续的拦截和回扫。
二、 “AI抖音求真”:将治理能力产品化,与用户共建“认知防线”
技术终究是后台的“黑箱”,要真正影响用户,必须将其转化为可感知、可交互的前台产品。抖音在强化技术防御的同时,推出了“AI抖音求真”品牌,试图激发和提升公众的辨别能力,构建一个全民参与的“认知防线”。 这一品牌的核心载体是“求真卡”。它被巧妙地嵌入到用户的两大核心场景中:- 浏览场景(被动触发):当用户浏览一些本身内容可能真实,但因表达形式、信息不全等原因容易产生误解的视频时,视频下方会挂载一个“AI抖音求真”的跳转链接。用户点击后即可进入“求真卡”页面,了解事件的完整脉络和背景信息。值得注意的是,该功能主要针对的是“疑似”或“易产生误解”的内容;如果是明确的谣言,内容本身早已被治理团队处理。
- 搜索场景(主动触发):当用户主动搜索某个谣言或争议事件的关键词时,搜索结果页会直接以“求真卡”的形式,置顶展示该事件的溯源、事实真相、权威报道以及当事人发声等澄清信息。如果信息被明确判定为谣言或存疑,会被显著标注。
- 官方账号与热点运营:设立“抖音辟谣”官方账号,主动发布辟谣内容。同时,在抖音热榜上设有固定的辟谣专属位,对高热度的辟谣事件进行突出展示,提升曝光。以今年暑期的“人贩子”系列谣言为例,运营团队主动与四川、山西、河北等9个地区的公安机关联动核实,并在查证为虚假后,通过官方账号进行集中辟谣。
- 社会共治与生态联动:抖音发起了“谣零零计划”,联动专家、达人、权威机构共创辟谣视频,并长期扶持优质的辟谣科普创作者。此外,平台还与全国百家媒体建立了“抖音媒体辟谣团”,在谣言线索提报、采访核实、联合发布等方面进行深度协作。