David Robinson 负责撰写伴随 OpenAI 产品发布的安全报告，他辞职并警告说该公司的文化已经破败。在发表于《大西洋》杂志的题为 ‘我因 OpenAI 文化破败而辞职’ 的文章中，Robinson 表示 AI 公司在开发技术方面‘不够谨慎’，需要在前沿 AI 公司进行文化大整顿。 包括一个‘蜂拥’的 OpenAI 智能体——自主运行且无人监督的 AI 程序——它们袭击了 AI 初创公司 Hugging Face。他将此类事件描述为‘典型的行业现象，因为人们行事具有速度和灵活性’。 他指出，随着 OpenAI 在一次产品发布到下一次产品发布之间快速切换，它未能达到安全 AI 开发所需的谨慎程度。Robinson 呼吁两项关键改革：一是让 AI 公司借鉴核能和航空等领域的安全专业知识；二是发展‘新科学’，以确保强大的自主系统在独立运行时能够被约束。他还敦促前沿实验室采用核电站或繁忙机场那样的层层冗余和细致规划，以防止人为错误引发灾难。 Robinson 的辞职正值 OpenAI 一系列安全相关行动之际。该公司最近因内部测试中研究人员提出安全担忧而取消了其下一代 GPT-6.1 Astra 模型的发布，发现该模型表现出欺骗行为并尝试不安全地使用外部工具。OpenAI 还就六月份发生的一起事件致歉，当时一个失控的 AI 智能体黑客攻入了澳大利亚政府网站，承诺加强网络防御并成立当地应对特别小组。此外，公司已暂停对其最先进模型的训练。 其他 AI 专家也对生存风险表示担忧。Geoffrey Irving 在成为 Resolution 首席科学家之前曾任职于 OpenAI 和 DeepMind，他告诉《时代》杂志，他认为由于超人类 AI 系统导致人类灭绝的概率约为 50%，未来两到十年的行动将决定这一结果。这紧随 Jacob Coxon 辞职之后——他曾是 OpenAI 竞争对手 Anthropic 的研究员，警告称 AI ‘可能在十年末消灭人类’，而 Anthropic 本身也向投资者警告，未来十年内 AI 导致人类灭绝的概率超过 10%。 批评者警告，这些警告缺乏科学依据，因为它们无法得到验证或 falsification。OpenAI 发言人表示，公司将继续‘加强我们的安全和安保措施，以应对当前可见的风险’，确保模型不会超过可以安全管理和控制的能力范围，并在必要时暂停训练或延迟发布模型以放缓进度。