知名人工智能公司 Anthropic 提出了一项安全法案，旨在针对 AI 模型建立政府干预的特定门槛。根据该提案，只有当模型被预测将造成至少 50 人死亡或 10 亿美元物质损失的“爆炸半径”时，商务部才有权阻止该 AI 模型的发布或运行。这一机制将要求在模型部署前进行私人模型审查——类似于财务审计——以确定模型是否符合这些高风险标准。

该提案旨在改变当前的监管格局，在目前的格局下，政府行动往往要求模型必须已经造成重大损害，国会才能通过新法律。通过设定预测性门槛，该法案寻求建立一个主动的审查流程。然而，批评人士和观察家对“监管俘获”表示担忧，认为如此高的门槛以及昂贵的合规审计或保险要求可能会有效地将小型初创公司排除在市场之外。这种观点认为，只有拥有巨额资本的大型实验室才能负担得起认证过程，这可能会创建一个保护既有巨头免受更灵活的小型竞争对手冲击的护城河。

围绕该法案的讨论还突显了执法中的实际和伦理复杂性。评论者质疑在法律意义上如何精确量化“死亡”或“损害”，特别是涉及非物理伤害或社交媒体影响的情况。其他人指出，很难起诉大型公司内部的特定个人因“AI 赋能”的事件负责，并指出缺乏法律先例。此外，一些参与者认为，该法案对于那些可以下载领先的开源模型并在私人硬件上运行的恶意行为者可能无效，他们认为虽然法律可能会减缓大规模商业部署，但可能无法阻止资金充足的私人实体进行高风险使用。