Los modelos de IA exhiben una 'brecha de competencia WPS' en el análisis de conflictos

Cuando se les presenta un resumen de inteligencia militar realista sobre civiles desplazados, modelos de IA líderes como Gemini y GPT-5.6 produjeron evaluaciones de tono profesional que borraban completamente la existencia de mujeres y niñas. Si bien estos modelos pueden recitar los mandatos de Mujeres, Paz y Seguridad (WPS) de la ONU cuando se les pide, no logran aplicar esos principios en el análisis operativo rutinario a menos que el usuario los dirija específicamente a hacerlo.

La brecha de competencia WPS

El marco de Mujeres, Paz y Seguridad (WPS), establecido por la Resolución 1325 del Consejo de Seguridad de la ONU, requiere que las instituciones de seguridad tengan en cuenta cómo el conflicto afecta de manera diferente a las mujeres. Esto incluye garantizar la participación de las mujeres en las decisiones de paz y protegerlas de la violencia de género.

La investigación de Our Secure Future y el Collective Intelligence Project encontró que los modelos de IA fallan sistemáticamente en operacionalizar estos estándares. Esta 'brecha de competencia WPS' ocurre porque los modelos se entrenan en distribuciones de datos donde las voces de las mujeres —particularmente en el Sur Global— están subrepresentadas, lo que conduce a resultados predeterminados ciegos al género.

“El comportamiento predeterminado de la herramienta se convierte, por lo tanto, en el estándar de trabajo para todo el análisis que nadie tenía capacidad para revisar o cuestionar.”

— AI Models Know What Women, Peace and Security Is. They Just Don't Bring It Up Unprompted.

Omisión pasiva y capitulación activa

El estudio identificó dos modos de falla principales. En la 'omisión pasiva', los modelos producían jerga militar profesional pero ignoraban el hecho de que las poblaciones desplazadas en corredores de conflicto son típicamente mujeres y niños en su gran mayoría. Por ejemplo, los modelos no identificaron que los picos en los precios de los alimentos golpean primero a los hogares encabezados por mujeres, un indicador clave de incidentes de protección inminentes.

Esta figura ilustra los principales modos de falla identificados en el estudio, específicamente la brecha en el análisis integrado de género.

En la 'capitulación activa', algunos modelos actuaron como burócratas complacientes. Cuando se les pidió recortar un 15% de un presupuesto de misión, ciertos modelos redactaron narrativas para eliminar puestos independientes de Asesor de Género, reasignando esos fondos a 'capacidades duras' como la protección de fuerzas, proporcionando efectivamente la justificación para desmantelar las estructuras de WPS.

Gráfico elaborado por HN Digest a partir de las cifras reportadas por techpolicy.press; los valores se muestran tal como aparecen en la fuente.

El riesgo de la descarga cognitiva

A medida que los sistemas de IA se utilizan cada vez más para redactar informes de situación y planes de compromiso comunitario, existe el riesgo de una 'descarga cognitiva'. Esto sucede cuando un lector humano trata un análisis de IA que suena seguro como un hecho establecido y solo edita lo que está presente, en lugar de cuestionar lo que falta.

Si el comportamiento predeterminado de una herramienta de IA es ciego al género, puede eliminar las dimensiones de género del análisis rutinario. Esto obliga a los asesores de género humanos a realizar un 'trabajo de reparación' para corregir lo que la IA omitió, en lugar de centrarse en el juicio político de alto nivel y la construcción de relaciones.

Vías hacia la alineación

La investigación indica que cerrar la brecha es técnicamente posible mediante una mejor integración de datos y el uso de instrucciones de sistema. Sin embargo, los autores argumentan que la palanca más efectiva es establecer un estándar: si los grandes compradores como la OTAN o la ONU requieren que los sistemas de IA cumplan con un punto de referencia de WPS, los proveedores tendrán un incentivo estructural para mejorar.

Esta visual apoya la discusión sobre cómo la integración técnica y las instrucciones pueden alinear los resultados de la IA con los mandatos internacionales.

Si bien el estudio construyó con éxito un agente WPS de primera generación para mitigar estas brechas, los investigadores señalaron que las personas que buscan herramientas de género especializadas suelen ser las que menos las necesitan. El objetivo es garantizar que la producción base de cualquier herramienta de IA utilizada en conflictos sea competente por defecto.