Los usuarios han informado de un posible cambio en la forma en que OpenAI maneja los datos para el entrenamiento de modelos, señalando específicamente que la configuración 'Mejorar el modelo para todos' en Codex parece haber sido reactivada silenciosamente. Esta configuración, que se encuentra dentro de la sección 'Controles de datos' de la interfaz de OpenAI, determina si las conversaciones de los usuarios se utilizan para entrenar y perfeccionar los modelos de IA de la empresa. El informe sugiere que, incluso después de que los usuarios hubieran desactivado intencionadamente esta función para proteger información patentada, el interruptor volvió a un estado activado sin intervención del usuario.
Este desarrollo resalta una preocupación significativa para las empresas y desarrolladores que utilizan herramientas de IA para manejar propiedad intelectual (IP) sensible. Debido a que los laboratorios de IA de vanguardia procesan enormes cantidades de datos de prompts, existe un riesgo persistente de que el código confidencial o las estrategias internas puedan ser ingeridos en el conjunto de entrenamiento del modelo. Algunos observadores en la comunidad argumentan que confiar en casillas de verificación de software para la privacidad es insuficiente para la protección de datos de alto riesgo, sugiriendo que las organizaciones con requisitos de seguridad estrictos deberían optar en su lugar por la inferencia autoalojada para mantener un control completo sobre sus datos.
La situación refleja desafíos más amplios en toda la industria con respecto a la transparencia de los datos y los 'patrones oscuros' en los servicios de IA. Los comentaristas han señalado experiencias similares con otros proveedores, como los activadores de retroalimentación automatizados de Anthropic y la configuración 'Actividad de las aplicaciones Gemini' de Google, que pueden ofuscar cuánto se retiene de datos para la mejora del modelo. Si bien algunos usuarios sugieren que los contratos de Retención de Datos Cero (ZDR) o la seguridad avanzada de cuentas (como las llaves de hardware) ofrecen protecciones más robustas, la tensión central sigue siendo la misma: la conveniencia de usar modelos de IA de vanguardia requiere actualmente un nivel de confianza en el manejo de datos del proveedor que muchas organizaciones consideran difícil de garantizar.