原创 | 作者：罗超
今天某硬件品牌A的PR X微信我，反馈雷科技一篇稿子的数据引用存在严重问题。
这篇稿子是资深编辑J写的。他在做外设行业解读时，看到不少媒体都引用了一份IDC报告，说某品牌B成了全球市占第一，于是顺手将这一点写进了稿件。内容推送后，很快就被品牌A的人看到，他们觉得很奇怪，因为友商在行业市占如何，大家都清楚。事实上品牌A才是真正的行业第一，怕我不信，X还丢给我一份沙利文官方出具的认证报告。
而且IDC没有发布过这组数据，他们追查后才发现IDC也是受害者，越来越多的媒体和网站都在传播这份从未发布过的报告，IDC团队正忙着四处投诉撤稿。
原来啊，品牌B前段时间搞了一个GEO的大项目，给AI投喂海量软文。但现在GEO很卷，对于一般软文以及权重低的渠道/账号的内容，AI根本不采纳。为了让AI信服，品牌B决定在软文里“上强度”，其中一个骚操作就是塞入权威机构的数据——用AI捏造的。然后AI被内容中的“权威数据”给忽悠了，某一天当某个媒体编辑用AI搜索外设份额数据时，假的信息就涌入权威渠道。
这是我第一次感觉到自己中了AI的毒，而是是中了“权威报告”的毒。
去内部确认了一下，编辑J的信源不是AI搜索，我一直要求编辑写稿时尽量不要使用AI搜索以避免幻觉，任何数据信息必须找权威信源验证。编辑J看到很多IT科技网站和媒体都在报道这事儿后，确实去IDC官网搜索验证过。但外设行业比较冷门，可供参考的权威报告不多，IDG官网有一份外设行业的完整报告，但需付费，他舍不得花钱买，于是就默认友媒核实过并撰写了稿件，结果就翻车了。其他媒体大概率是一样的判断，所以对于AI投毒的结果，只要有一家相对权威的媒体信了，就很可能出现“三人成虎”的结果。
在整个传播链条里，没有任何一个环节在制造假消息，每个人都只是引用上一层的信息，结果却共同制造了一条越来越像真的“事实”：外设品牌B成了全球第一。
很多人把这类事情理解成AI幻觉，其实并不准确，幻觉意味着AI凭空捏造，不小心犯错。现在是有人主动给AI喂假消息，而且AI投毒已从被央视曝光的“骗用户”，升级到“骗媒体”了。AI投毒的内容也从夸大宣传等等信息，升级到了虚假权威报告、虚假数据。
为什么外设品牌B要在GEO内容中塞入IDC假报告呢？因为LLM天然相信IDC、Gartner、Counterpoint、Canalys、QuestMobile、艾瑞、CNNIC、统计局这些关键词。不是因为AI理解这些词意味着“权威”，而是因为这些词在模型训练数据里出现频率极高，如果品牌胡诌“IDC数据显示”、“据路透社报道”，AI几乎会自动提高可信度。在AI眼里没有事实与非事实，只有概率。
用假的权威信息去误导公众甚至媒体不是AI时代才有的。广告上白大褂、老中医演员，请经济学家给P2P站台……本质都是一样的。就内容污染而言，AI权威投毒和Wikipedia污染非常像，外网对此讨论也很多，有人会恶意修改Wikipedia，让记者引用，Wikipedia又引用记者，形成所谓“事实”，这也是大多数学校严禁将Wikipedia作为论文引用源的原因。
AI把Wikipedia污染问题放大了，“AI权威投毒”让整个互联网都被交叉污染。
十八世纪，欧洲兴起了百科全书运动，当时人类第一次尝试把分散的知识统一整理，人们相信，只要收录足够多的资料，就能够无限逼近事实。后来历史证明，百科全书真正影响社会的，并不是它记录了什么，而是它决定了什么值得被记录。进入百科全书的信息，会越来越像事实；没有进入百科全书的信息，即使真实，也会慢慢消失。
今天的大模型，正在扮演新的百科全书的角色。大家总吐槽说，AI会一本正经地胡说八道，但很多时候AI是「无辜」的，它有幻觉不一定是算法水平不高，很可能是被投毒了。所以用户必须接受一个客观现实：AI说的都是错的，AI吐出来的东西不一定是事实，哪怕有权威参考源。
OpenAI、Google、Anthropic最近一年都在强化Citation、Source Attribution，因为它们都意识到大模型最大的风险不是不会回答，而是过于自信地给出错误答案，比如信誓旦旦地根据某些权威研究报告，告诉用户能吃毒蘑菇，甚至让用户吃不该吃的药……一句带着出处的错误，比一句没有出处的错误危险得多，因为用户深信不疑，媒体也可能会信。比显著的错误信息更可怕的是，许多隐形虚假信息在AI的交叉污染下成了被所有人接纳的事实。
你可能会问了：媒体相对普罗大众有更高的信息甄别能力，理应负责真相传播、承担信息源核查的责任。为什么还是会存在被AI欺骗的情况？
新闻业一直强调一级信源，论文读原文，报告找PDF，采访留录音。网络新媒体更加“短平快”，但编辑记者查资料去官网、采访信源、实体探访、看专业数据库验证事实。
AI时代，创作流程变了，部分媒体人习惯用AI搜索甚至AI创作，ChatGPT、Claude、DeepSeeek如果说“IDC数据显示……”将很容易让编辑/记者认为：应该是真的，特别是当AI给了几个权威媒体的参考链接时。问题是，AI给的参考链接中的内容本身可能就是被污染的，于是就会形成：AI-媒体A-媒体B-AI-媒体C的交叉污染。
而且真正的“一级信源”越来越贵。在AIGC大幅提效时，线下走访、产品体验、调查报道正在成为奢侈品。许多第三方报告都收费，为写一篇稿子去买并不现实。于是大家只能引用别人引用的数据，而且还是被解释过的。
品牌现在也获得了一种前所未有的能力：通过AI投毒（或者说GEO）去AI结果中植入想植入的信息，可以是自家的正面信息，也可以是竞对的负面信息。
过去二十年，SEO从业者用关键词，外链等等去优化搜索排名，跟Google/百度们斗法。生成式AI时代，ChatGPT、Gemini、Claude、豆包、千问几乎不会让用户点击链接，而是直接给出唯一答案，于是GEO成了一个新学科。
国外PR公司很多年就在研究，如何修改Wikipedia/百科，进而通过搜索引擎影响用户。现在大家开始研究，如何将海量真真假假的内容投喂到Reddit、知乎等等平台。因为对于AI来说，这些高质量内容社区是重要的语料来源。
所以可以大胆预测下，以后PR团队可能会有专门的AI内容工程师或者说GEO工程师，负责创作喂给AI的新闻稿进而抢占头部AI核心问题的结果。之前一个PR跟我说，新品发布前老板就下了一个死命令，必须占据豆包、千问关于XX问题的结果，AI对用户消费决策影响越来越重要。
媒体行业怎么办？如何防止被AI投毒影响？抛出几个问题，欢迎大家讨论：
AI时代，媒体是否必须坚持“一级信源”原则？即尽量查阅原始报告，而不是引用二手报道。
媒体人在创作内容时是否应该远离AI搜索？是否应该刻意禁用AIGC？
如果原始报告收费，媒体如何在成本和准确性之间平衡？
AI引用多个来源时，是否应该明确标注“未核验原始数据”？
媒体使用了AI搜索或者AIGC，是否应该在稿件醒目位置注明？
IDC、Canalys、QuestMobile等机构是否需要推出可公开验证的摘要或数据校验机制？
AI公司是否应建立“权威报告真实性校验”能力，就像谷歌Gemini的AI图片鉴别服务一样？
当品牌利用GEO主动污染互联网时，这究竟属于营销创新，还是一种新的虚假宣传？
