Peec AI 的研究员 Metehan Yesilyurt 进行了一项实验，他建立了一个包含涵盖各个行业的 50,000 条完全虚构的统计数据的网站。该网站是使用 GPT-4.1 生成的，花费约为 50 美元。虽然 Google 在算法更新后迅速将该网站从索引中移除，但 ChatGPT 仍继续检索并引用其中的内容。在短短七个月内，这些虚假数字就出现在学术论文、经济出版物，甚至是大金融集团的投资研究报告中。
该图像代表了 Peec AI 关于虚假统计数据传播所进行的实验的主要来源。
这一现象背后的机制在于基于搜索的 LLM 如何执行信息检索。当用户要求提供报告或博客文章时，模型通常会将提示词分解为“扇出查询”（fanout queries）——即专门寻找“统计数据”、“数据”或“%”等关键词的子查询。由于特定的数字比模糊的定性陈述提供更具体的依据，模型的重排序系统会将具有高数字密度的页面识别为高度相关。至关重要的是，当前的 LLM 架构在延迟和成本预算上受到严格限制；它们的设计目标是获取并总结内容，而不是在输出响应之前针对独立原始来源核实每一个声明。
这造成了“引用洗白”的风险，即一个未经核实的统计数据通过被一个信誉良好的实体引用一次而获得权威性，随后又成为后续用户和模型的来源。这个循环最终可能导致这些数字被摄入到未来的训练数据集中。为了在受益于 AI 可见性 (GEO) 的同时降低此类风险，Yesilyurt 建议出版商应专注于提供清晰的“每句一个声明”的数据点，使标题与常见的扇出查询相匹配，并通过服务器渲染的 HTML 而非隐藏在 JavaScript 之后来确保机器人的技术可访问性。