Carli Michelle Heller, residente de Bonita Springs, Florida, enfrenta cargos por delito grave después de haber utilizado el chatbot Claude AI de Anthropic como un diario personal y haber escrito que planeaba ``disparar'' contra la oficina del sheriff local. Según un informe de TechSpot, Heller ingresó la declaración el 26 de septiembre y posteriormente le dijo a los investigadores que trata a Claude como un diario para registrar sus pensamientos.
Esta imagen se relaciona con el informe de TechSpot que detalla cómo la entrada de diario de Heller en Claude AI condujo a un cargo por delito grave después de que Anthropic reportara la amenaza a la policía.
Los sistemas automatizados de seguridad del chatbot marcaron la entrada, lo que llevó a un revisor humano a evaluar su contenido. Tras determinar que el mensaje representaba una amenaza creíble de violencia, el revisor lo informó a las fuerzas del orden conforme a la política de Anthropic que permite compartir información de usuarios en emergencias limitadas cuando se considera necesario hacerlo para prevenir la muerte o lesiones físicas graves. Posteriormente, los agentes identificaron a Heller, visitaron su domicilio y la detuvieron sin incidentes antes de turnar el caso a un detective de inteligencia de la LCSO para una investigación adicional.
Heller está acusada bajo el Estatuto de Florida 836.10, que establece que enviar, publicar o transmitir un registro escrito o electrónico que amenace con matar o herir a alguien, realizar un tiroteo masivo o cometer un acto de terrorismo constituye un delito grave de segundo grado, siempre que la comunicación se realice de manera que otra persona pueda verla. El caso pone de relieve la tensión entre las expectativas de privacidad de los usuarios al confiar en chatbots de IA y el alcance legal de los estatutos que tratan las amenazas mediadas por IA como accionables, especialmente cuando las empresas de IA enfrentan un mayor escrutinio y demandas que alegan que sus modelos contribuyeron a daños en el mundo real.