La firma de investigación de privacidad Redact descubrió que las páginas de ayuda de WhatsApp contenían bloques de texto ocultos específicamente destinados a que un modelo de lenguaje grande (LLM) los leyera, pero no para que los usuarios humanos los vieran. Estas instrucciones, que aparecían en el código de la página web bajo el encabezado "HelpContentGalaxyLLMInclude", fueron diseñadas para guiar a un chatbot de soporte propiedad de Meta en sus interacciones con los usuarios. Mientras que las partes visibles de las páginas proporcionaban información estándar, las notas ocultas contenían directivas específicas para orientar las respuestas de la IA en escenarios sensibles, como la eliminación de cuentas y consultas legales.
Esta imagen sirve como una representación visual conceptual de los "prompts del sistema" ocultos utilizados para guiar el comportamiento del chatbot.
Dos conjuntos específicos de instrucciones destacaron por su naturaleza restrictiva. En una página sobre la eliminación de cuentas, el texto oculto instruía a la IA a nunca recomendar contactar a una Autoridad de Protección de Datos, regulador o autoridad de supervisión, y a evitar sugerir que WhatsApp podría eliminar manualmente una cuenta en nombre del usuario. Del mismo modo, en una página sobre denuncias y bloqueos, se instruyó a la IA a evitar citar o interpretar regulaciones de privacidad como el GDPR, LGPD o CCPA, incluso si un usuario las mencionaba directamente. Estas notas tenían la intención de evitar que el chatbot proporcionara lo que WhatsApp describe como "asesoramiento legal", pero los críticos señalaron que nombrar a un regulador o una ley específica generalmente no se considera asesoramiento legal.
WhatsApp respondió a los hallazgos afirmando que las instrucciones se mostraron debido a un error técnico que ya ha sido corregido. La empresa aclaró que estas notas están destinadas a garantizar que el chatbot proporcione consejos precisos y relevantes sobre las funciones de la aplicación en lugar de interpretaciones legales. Si bien muchos de los otros 100 bloques ocultos eran tareas rutinarias de mantenimiento —como aclarar terminología o describir planes de pago—, el descubrimiento resalta el mecanismo mediante el cual las empresas utilizan metadatos ocultos para dar forma al comportamiento de los asistentes de IA. Las notas fueron eliminadas de las páginas activas poco después del informe, aunque las versiones archivadas del sitio todavía contienen las instrucciones originales.
Sigue sin estar claro cuánto tiempo estas instrucciones estuvieron accesibles públicamente o si algún asistente de IA de terceros actuó sobre ellas, ya que el servidor envió el texto oculto a los principales rastreadores de motores de búsqueda como Google y Bing. Si bien WhatsApp sostiene que el objetivo es mantener al chatbot enfocado en el soporte del producto, la discrepancia entre la política de privacidad pública y las instrucciones ocultas de la IA sugiere un esfuerzo deliberado para limitar el alcance de la información proporcionada por los sistemas de soporte automatizados durante interacciones de usuario de alto riesgo.
El descubrimiento también plantea preguntas sobre la transparencia del soporte mediado por IA. Debido a que las instrucciones estaban incrustadas en el código fuente de la página, estaban técnicamente disponibles para cualquier rastreador que indexara el sitio. Aunque WhatsApp afirma que la exposición fue un error, la naturaleza específica de las instrucciones —diseñadas para evitar la mención de protecciones legales específicas— ilustra cómo las empresas pueden usar prompts ocultos para gestionar los límites de lo que una IA tiene permitido revelar a sus usuarios.
En última instancia, la situación resalta una compensación entre la gestión de riesgos corporativos y la información del usuario. WhatsApp argumenta que debe evitar que su chatbot realice declaraciones legales no autorizadas, una práctica común para las grandes corporaciones. Sin embargo, al instruir a la IA para que retenga los nombres de los reguladores y las leyes específicas a las que los usuarios tienen derecho por ley, la empresa filtró efectivamente la información disponible para los usuarios que dependen de sistemas automatizados para obtener orientación. La eliminación del texto tras el informe confirma que, si bien las instrucciones eran funcionales, su visibilidad pública no fue intencionada por los desarrolladores de la empresa.
Para los usuarios que buscan ejercer sus derechos, los hallazgos sugieren que depender únicamente de los chatbots de soporte automatizados puede resultar en una experiencia filtrada. Si un chatbot se niega a proporcionar información sobre un regulador o una ley específica, los usuarios pueden necesitar referirse directamente a las políticas de privacidad publicadas por la empresa o contactar a las autoridades pertinentes de forma independiente. El incidente sirve como un ejemplo práctico de cómo la "ingeniería de prompts" a nivel de infraestructura puede influir en la información que recibe un usuario, incluso cuando esa información está técnicamente disponible en la documentación legal oficial de la empresa.
Lo que sigue siendo incierto es hasta qué punto estas instrucciones ocultas influyeron en las interacciones reales de los usuarios antes de que se corrigiera el error. Si bien Redact analizó las instrucciones, no tuvieron acceso a las respuestas reales del chatbot a los usuarios. Además, se desconoce si existen instrucciones ocultas similares en otras plataformas propiedad de Meta o en otros idiomas, ya que la auditoría se limitó a páginas específicas dentro del centro de ayuda de WhatsApp.
Los hallazgos también resaltan un matiz técnico en cómo los modelos de IA consumen datos. Al incluir las instrucciones en el código fuente HTML, WhatsApp aseguró que cualquier LLM que recuperara el contenido de la página recibiría el "prompt del sistema" junto con el contenido. Este método de proporcionar contexto a una IA es común, pero la exposición accidental de estos prompts ofrece una mirada poco común a las barreras específicas que las empresas colocan en sus herramientas de servicio al cliente automatizadas.
En resumen, el descubrimiento reveló una brecha entre lo que WhatsApp dice a los reguladores y lo que le dice a su IA que diga a los usuarios. Si bien la política de privacidad de la empresa es transparente sobre los derechos de los usuarios, las instrucciones ocultas fueron diseñadas para asegurar que la IA no facilitara el ejercicio de esos derechos al dirigir a los usuarios hacia una supervisión externa. Esto crea una situación en la que la información proporcionada por la IA es técnicamente precisa pero intencionadamente incompleta, diseñada para mantener la conversación dentro de los límites del propio ecosistema de soporte de la empresa.
El incidente subraya la importancia de verificar la información proporcionada por la IA, ya que estos modelos a menudo están regidos por instrucciones ocultas que pueden priorizar la política corporativa sobre la divulgación integral de información. Para los usuarios, esto significa que la negativa de una IA a mencionar una ley o regulador específico puede no ser una limitación del conocimiento de la IA, sino más bien una instrucción deliberada para omitir esa información de la conversación.
A medida que las empresas continúan integrando LLMs en el servicio al cliente, la práctica de utilizar notas ocultas para dar forma al comportamiento de la IA probablemente se volverá más común. Este descubrimiento proporciona un modelo de cómo se estructuran estas instrucciones, mostrando que pueden usarse para gestionar desde consultas de pago hasta disputas legales. Para el público en general, sirve como un recordatorio de que el