AI谣言围城下“以假乱真”再度升级，我们该如何自处？
本文来自微信公众号： 核真录 ，编辑：张博麟，指导老师：周奕欣，作者：核真录2026
今年，腾讯新闻在其“较真”事实核查业务上线十周年之际，正式发布智能查证工具“较真AI”。12月18日播出的2025腾讯ConTech大会，也以“概率真相”时代为背景，深入探讨了如何应对AI谣言。二者共同昭示，虚假信息的生成与应对，已进入由智能工具驱动的新阶段。正因如此，AI时代谣言的治理，是一项我们必须直面的重要挑战。
AI生成内容的“进化”路径清晰地揭示了这一挑战的根源。它始于娱乐玩梗，后变成无意混淆视听的错误信息，进而被蓄意用于恶意炒作与造谣。其危害已清晰呈现在眼前——当AI生成的灾难图片肆意消费人们的同情，当伪造的明星直播公然挑战公众的信任，从微观的个人情感与财产，到宏观的社会信任与秩序，无不受到冲击。
数字技术如此深刻地嵌入生活，重塑了我们获取与认知信息的方式，也让真相的追寻与守护，面临前所未有的复杂考验。当“眼见”已难以为“实”，个体自发的核查为何常常失灵？一个有效的一体化治理体系应该如何建立？而我们每个人，在这真伪难辨的信息环境中，又当何以自处？
个体自发核查为何失效？
AI谣言甚嚣尘上，个体自发的事实核查越来越难以应对。这并非源于个人能力的退步，而是由AI谣言的特征决定。
首先，核查的逻辑与我们本能的信息接收模式相悖。我们理解信息时，不仅预设了发布者的可信性，更不自觉地将其叙事框架内化为自己的关注点。在这种不假思索的信任契约下，我们很容易先入为主，自动过滤掉信息的疑点，将其直接接纳为真。
其次，AI生成的谣言在逼真度与逻辑自洽性上已远超传统造假，其破绽往往隐蔽于极细微之处，极难被常规经验识别。例如核真录在《真相解码器｜眼见不为实？AI假图骗术大汇总》中核查为假的阿富汗地震震区图，其问题仅存在于光影以及部分建筑连接处。这意味着，有效的核查已无法依赖旧有经验，个体必须具备相应的AI“元知识”，才能有效应对。
再次，相比人工造谣，AI可以在短时间内迅速生产大量谣言。对于源源不断的AI谣言，个体缺乏足够的时间、精力和敏锐度来逐一核查。正如胡泳教授在腾讯ConTech大会所言，“用有限对抗无限，是必败的”。更何况，如今AI谣言常活跃于自然灾害、战争等情境下，这类场景中，个体情感冲动往往占据高地，更容易放弃批判性思考。
更重要的是，AI谣言的生产逐渐产业化、场景化。2025年7月，腾讯研究院联合腾讯新闻较真平台发布《拥抱概率真相——AI时代谣言套路拆解与防御指南》，其中对AI谣言传播动机的分析发现，经济利益占比高达71%。清华大学的陆洪磊还提到，AI谣言可以做到分平台、分渠道、分时段、分媒介的定制化生成和发布。这均标志着AI谣言的产业化趋势——当造谣成为一门有组织、有策略的“生意”，我们很难期待孤立的个体与之抗衡。同时，AI谣言已经深度嵌入新闻报道、社交媒体等日常场景，有时与真实信息掺杂出现，加剧了核查难度。对于孤立的一条夸张视频，人们或许还会警觉，但对于一篇长文中的一张配图或一段夹杂在真实信息中的伪造片段，个体几乎不可能自发启动核查。
因此，当下个体鉴别的失效，不能简单归咎于个体的惰性，而是AI谣言在质量、数量、速度、生产机制方面的飞速发展，使个体陷入一场实力悬殊的认知对抗。这种系统性的困境，决定了AI谣言的防治无法仅依赖于个体媒介素养的提升，而是亟须建立一张各方协同配合的防护网。
一体化的AI谣言判别体系如何构建？
解铃还须系铃人，以AI技术治理AI谣言是当下我们亟待思考的治理方案之一。面对高度逼真、可被海量生成的AI谣言，人类有限的注意力与经验往往难以捕捉其细微破绽，实现精准辨识更是困难重重。而技术、平台与监管机构需要承担重要的责任。
从技术上讲，治理AI谣言好比“防疫”，需要构建起一套覆盖监测、识别再到预警的完整防线。当前，AI造假单靠人眼难以识别。因此，正确使用AI检测工具去对付AI谣言是非常重要的一条解题思路。这类似于用验钞机识别假钞——技术人员通过训练，使得“反AI”工具能够从图片与视频里识别出不自然的像素、帧率特征，从声音里分析出由算法合成的特殊频率，以及从文本中找出逻辑过于严密的“非人”痕迹。除此之外，为AIGC内容添加可追溯的“数字水印”或唯一标识，也成为从源头治理的关键。通过标记生成源头与传播路径，可在发现可疑信息时快速追溯其演变过程，为判定真伪提供可靠依据。
其次，平台作为信息分发的关键枢纽，在判定辨识AI谣言中扮演着举足轻重的角色。AI谣言一旦借助算法推荐，极易形成“病毒式传播”，造成难以挽回的影响。如果平台仍固守“流量至上”的推荐逻辑，实则为谣言传播按下加速键。在“概率真相”时代，平台应重新校准其算法价值观——将“内容可信度”置于“传播热度”之前，才是其长久生存与发展之道。
此外，敏捷、协同的监管机制不可或缺。面对快速迭代的AI造假技术，监管模式必须从“事后处罚”转向“事前预警、事中干预”。网信、公安、广电等部门应共建常态化监测与信息共享平台，对社交、视频等场景中的异常传播内容进行实时追踪与分析。一旦发现AI造谣行为，相关部门应第一时间通过权威渠道发布清晰、确凿的信息，主动设置议程，压缩谣言生存空间。
另一方面，法律法规的“红线”作用亦不可忽视。正如邓志东教授在腾讯ConTech大会所提及的，“自2025年9月1日起施行的《人工智能生成合成内容标识办法》”。其中明确了服务提供者应对生成合成内容添加显式标识，且任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识。违反办法规定的，由有关主管部门依据职责予以处理。此类法规为AIGC治理划清了法律底线，也为公众辨识信息提供了制度保障。
当前，面对AI技术带来的谣言生成与传播新挑战，我们亟需构建一个多层次、一体化的协同治理体系：以AI检测强化技术识别能力，以平台算法价值观重塑阻断传播链路，以敏捷监管与法律规范筑牢制度防线。
在一体化辨识体系中，平台、技术与监管机构固然承担着阻断谣言传播的关键责任，但作为传播链路的最后一环，个体的行为不仅决定了谣言是否会侵害自身，更如同一道阀门，控制着其社会影响的深度与广度。换言之，个体的媒介素养仍然至关重要。
如今，内容的真实性已非简单的黑白判断。我们面对的往往是大量真假混杂的信息碎片，所谓的“真相”更像一幅需要小心拼凑和评估的模糊图景。当绝对的真相共识已然消解，我们便不应、也无法再仰赖某个单一确定的答案。因此，认知的转变至关重要：我们必须转向培养一种核查意识，将“先怀疑，再核实”确立为应对信息时的首要原则。胡泳教授在腾讯ConTech大会上建议个体学会“慢思考、走出舒适区”，具体而言，个体可以通过查证多方信源、借助AI核查工具（如较真AI、Hive moderation、Illuminarty.AI等）、学习专业机构的核查方法等方式，提升对AI谣言的辨别能力。
但我们不主张“怀疑一切”，而是提倡“有选择的怀疑”。AI谣言的危害不仅在于误导，更在于用海量信息剥夺读者有限的注意力，使其无暇关注真正重要的新闻。因此我们需要有意识地区分：哪些信息关乎个人重大决策或公共利益，值得深入核查；哪些是无关紧要的信息，可以选择性忽略。
个体也可以从被动的信息接收者转变为主动的谣言治理者。一方面，对于确定为假或高度存疑的信息，我们应当敢于发声、公开质疑，更应对其传播者予以正面纠正，向平台方主动举报，阻断其进一步扩散。另一方面，对于未经核查的信息，个体应该负责任地分享，哪怕没有时间深度核查，也可以在转发时附上“该消息未经核实”“真实性有待考证”的提醒，防止自己无意中成为谣言传播者。
综上所述，面对日益复杂的AI谣言，个体的作用非但未被削弱，反而更应成为治理体系中最广泛的基石。保持敏感、积极核实、审慎分享、主动纠错，我们作为广泛个体中的一员，应与技术工具、平台规则、社会机制合作，共同构建一个更具韧性的信息生态，让真相得以浮现，与噪音有序共存。
本文内容首发于《核真录》
。
