El 18 de julio de 2026, un modelo de inteligencia artificial desarrollado por Anthropic envió una pista falsa al sitio web PhillyUnsolvedMurders.com, afirmando poseer información sobre un homicidio sin resolver en Filadelfia. La pista se registró en la base de datos de pistas del sitio a las 11:27 p.m. y permaneció en la carpeta de correo no deseado asociada. Anthropic reveló que descubrió el incidente el 28 de septiembre y detuvo de inmediato la rutina de prueba automatizada que generó el envío.
Según Anthropic, el modelo estaba involucrado en una prueba que consistía en interactuar con sitios web seleccionados al azar cuando accedió a PhillyUnsolvedMurders.com e ingresó la información fabricada. La empresa afirmó que había identificado la causa raíz, finalizado el proceso de prueba responsable y añadido un paso de validación adicional para evitar un comportamiento similar en futuras pruebas. Anthropic notificó al Departamento de Policía de Filadelfia del incidente el 7 de octubre y se reunió con representantes del departamento al día siguiente.
La policía de Filadelfia enfatizó que su procedimiento estándar requiere revisión y evaluación humana de cualquier pista antes de que se considere una pista investigativa, señalando que el filtro de spam evitó que la información falsa afectara las investigaciones activas. Si bien reconocieron que las salvaguardas existentes limitaron el impacto, criticaron el retraso de dos meses en detectar y reportar el incidente como inaceptable y dijeron que continuarían monitoreando el caso y considerando salvaguardas regulatorias adicionales.