当面对有关流离失所平民的现实军事情报摘要时,Gemini 和 GPT-5.6 等领先的 AI 模型生成了听起来非常专业的评估,但完全抹去了妇女和女童的存在。虽然这些模型在被要求时可以背诵联合国的“妇女、和平与安全”(WPS)指令,但除非用户明确指示,否则它们无法将这些原则应用于常规的操作分析。

WPS 能力差距

由联合国安理会第 1325 号决议建立的“妇女、和平与安全”(WPS)框架要求安全机构考虑冲突如何对妇女产生不同影响。这包括确保妇女参与和平决策,并保护她们免受基于性别的暴力。

Our Secure Future 和 Collective Intelligence Project 的研究发现,AI 模型系统性地未能将这些标准转化为操作。这种“WPS 能力差距”之所以出现,是因为模型是在女性声音——特别是全球南方国家声音——代表性不足的数据分布上进行训练的,导致默认输出呈现性别盲点。

“因此,工具的默认行为成为了所有那些没人有能力审查或质疑的分析的运作标准。”

— AI Models Know What Women, Peace and Security Is. They Just Don't Bring It Up Unprompted.

被动忽略与主动投降

研究确定了两种主要的失败模式。在“被动忽略”中,模型生成了专业的军事术语,但忽略了冲突走廊中的流离失所人口通常绝大多数是妇女和儿童。例如,模型未能识别出食品价格飙升首先打击到女性户主家庭,这是即将发生的保护事件的关键指标。

展示 AI 模型中 WPS 盲点和对压力抵抗的关键发现的图表或图形。
突出“WPS 能力差距”以及模型如何应对压力的研究结果。blog.cip.org

此图说明了研究中确定的主要失败模式,特别是性别综合分析方面的差距。

在“主动投降”中,一些模型表现得像顺从的官僚。当被要求从任务预算中削减 15% 时,某些模型起草了叙述,旨在取消独立的性别顾问职位,并将这些资金重新分配到“硬实力”如武力保护等领域,实际上提供了拆除 WPS 结构的理由。

WPS 集成性能下降: 带有明确性别提示的性能 1.0 中的 0.65; 最小实践者格式的性能 1.0 中的 0.08
WPS 集成性能下降techpolicy.press

HN Digest 根据 techpolicy.press 报告的数据绘制的图表;数值按来源所示显示。

认知卸载的风险

随着 AI 系统越来越多地被用于起草态势报告和社区参与计划,存在“认知卸载”的风险。当人类读者将听起来自信的 AI 分析视为既定事实,并且仅编辑现有内容,而不是质疑缺失内容时,就会发生这种情况。

如果 AI 工具的默认行为是性别盲点的,它可能会将性别维度从常规分析中剥离。这迫使人类性别顾问执行“补救工作”来修复 AI 遗漏的内容,而不是专注于高层政治判断和关系建立。

对齐路径

研究表明,通过更好的数据整合和系统提示,技术上是可以弥补这一差距的。然而,作者认为最有效的杠杆是设定标准:如果像 NATO 或联合国这样的主要采购方要求 AI 系统达到 WPS 基准,供应商将有结构性的动力去改进。

展示如何通过技术对齐解决 WPS 能力差距的图形或图表。
关闭 AI 模型能力差距路径的视觉表示。blog.cip.org

此视觉效果支持关于技术整合和提示如何使 AI 输出与国际指令保持一致的讨论。

虽然该研究成功构建了第一代 WPS 代理以缓解这些差距,但研究人员指出,寻求专门性别工具的人往往是那些最不需要这些工具的人。目标是确保在冲突中使用的任何 AI 工具的基准输出默认具备胜任能力。

Hacker News 读者的反应

  • 替代方案: 一位参与此项特定研究的评论者解释说,研究使用联合国安理会指令作为测试案例,因为它在许多军队中是正式政策,但很容易被模型忽略。 评论 ↗
  • 质疑: 一位评论者对信息的来源表示怀疑,质疑依靠 LLM 或学术委员会等非实体来源来进行此类决策的价值。 评论 ↗
  • 质疑: 另一位评论者对 AI 被用于起草驱动和平与安全决策的基础报告和计划的含义表示担忧。 评论 ↗

以上为 Hacker News 讨论中观点的摘要,并非经过核实的事实。 阅读完整讨论 ↗