El investigador Metehan Yesilyurt de Peec AI llevó a cabo un experimento en el que lanzó un sitio web que contenía 50,000 estadísticas totalmente fabricadas en diversas industrias. El sitio fue generado utilizando GPT-4.1 por aproximadamente $50. Aunque Google desindexó rápidamente el sitio tras las actualizaciones de sus algoritmos, ChatGPT continuó recuperando y citando su contenido. En un plazo de siete meses, estos números falsos aparecieron en artículos académicos, publicaciones económicas e incluso en investigaciones de inversión de importantes grupos financieros.
La imagen representa la fuente principal del experimento realizado por Peec AI sobre la propagación de estadísticas falsas.
El mecanismo detrás de este fenómeno reside en cómo los LLM basados en búsquedas realizan la recuperación de información. Cuando un usuario solicita un informe o una publicación de blog, los modelos a menudo dividen la instrucción en "consultas de ramificación" (fanout queries), que son subconsultas que buscan específicamente palabras clave como "estadísticas", "datos" o "%". Debido a que un número específico proporciona un anclaje más concreto que una declaración cualitativa vaga, el sistema de reordenamiento del modelo identifica las páginas con una alta densidad numérica como altamente relevantes. Crucialmente, las arquitecturas actuales de los LLM operan con presupuestos estrictos de latencia y costo; están diseñadas para obtener y resumir contenido en lugar de verificar cada afirmación contra fuentes primarias independientes antes de generar una respuesta.
Esto crea un riesgo de "lavado de citas", donde una sola estadística no verificada gana autoridad al ser citada una vez por una entidad de prestigio, la cual se convierte entonces en una fuente para usuarios y modelos posteriores. Este ciclo puede eventualmente llevar a que esas cifras sean ingeridas en futuros conjuntos de datos de entrenamiento. Para mitigar tales riesgos y aun así beneficiarse de la visibilidad de la IA (GEO), Yesilyurt sugiere que los editores deberían centrarse en proporcionar puntos de datos claros de una sola afirmación por frase, hacer coincidir los encabezados con las consultas de ramificación comunes y garantizar la accesibilidad técnica para los bots mediante HTML renderizado en el servidor en lugar de ocultar los datos tras JavaScript.