Un investigador, Jiahao Shao, informó haber sido bloqueado por Anthropic después de utilizar los modelos Claude de la empresa para asistir en investigaciones que involucran modelos de código abierto. Shao afirmó que, si bien no 'destiló' Claude, utilizó el modelo para enviar trabajos y ejecutar análisis para un proyecto que involucraba un modelo de código abierto potente. Según Shao, Anthropic marcó su cuenta por "entrenar a un competidor", bloqueando posteriormente su acceso a funciones específicas, degradando su acceso a ciertos modelos y cerrando sesiones activas. Argumentó que, dado que Anthropic construyó sus modelos sobre datos públicos, resulta contradictorio tratar a los usuarios de pago que realizan automatización de investigación como adversarios.
La discusión en Hacker News destacó una tendencia percibida de Anthropic de ser altamente dogmática y con opiniones marcadas respecto a su base de usuarios. Algunos comentaristas sugirieron que la empresa podría estar tomando una decisión comercial pragmática para priorizar a los usuarios empresariales de alto valor sobre los investigadores individuales que participan en el entrenamiento de modelos o la modificación de pesos. Otros señalaron que las restricciones podrían no basarse puramente en la naturaleza de la investigación, sino que podrían ser activadas por señales técnicas. Por ejemplo, un comentarista señaló que el investigador reside en Hong Kong —una región donde Claude está bloqueado geográficamente— y sugirió que el uso de una VPN para acceder al servicio mientras se realiza el entrenamiento de modelos podría activar los clasificadores de seguridad de Anthropic.
Más allá del incidente específico, la discusión abordó preocupaciones más amplias sobre el "foso" de las empresas de IA y la creciente fricción al utilizar LLMs para tareas complejas de desarrollo. Varios usuarios informaron casos en los que Claude se negó a realizar tareas como extraer servicios de una base de código monolítica o generar archivos de contexto para flujos de trabajo en múltiples computadoras, citando políticas internas de "moral" o "extracción". Estos informes sugieren una creciente tensión entre las capacidades de estos modelos y las barreras de seguridad impuestas por sus proveedores, las cuales algunos usuarios argumentan que se están volviendo cada vez más restrictivas para fines de investigación profesional y académica.
En última instancia, el incidente subraya un límite en desarrollo en el ecosistema de la IA: la distinción entre utilizar un modelo para asistencia general y utilizarlo como una herramienta para la mecánica subyacente del desarrollo de modelos. Si bien Anthropic mantiene estas políticas para proteger su propiedad intelectual y su posición competitiva, la fricción creada para los investigadores resalta un cambio potencial hacia un ecosistema más cerrado para aquellos que trabajan en la frontera del entrenamiento y la optimización de modelos.
Evidencia: - Jiahao Shao informó haber sido bloqueado por "entrenar a un competidor" y perder el acceso a Opus 5.5 tras usar Claude para la automatización de investigación (principal). - Comentaristas en Hacker News discutieron la posibilidad de que el uso de VPN y los activadores de bloqueo geográfico contribuyeran a las marcas en las cuentas (hn-50319358). - Los usuarios informaron que Claude se negó a realizar tareas como la extracción de código o la preservación de contexto debido a restricciones internas de seguridad/política (hn-50319358).