著名な人工知能企業であるAnthropicは、AIモデルに関する政府の介入のための特定の基準を確立する安全法案を提案しました。この提案によると、商務省は、モデルが少なくとも50人の死亡または10億ドルの物質的損害という「爆発半径」を引き起こすと予測される場合にのみ、AIモデルのリリースや運用を停止する権限を与えられます。このメカニズムは、モデルが展開される前に、それがこれらの高リスク基準を満たしているかどうかを判断するために、金融監査と同様の民間モデルレビューを義務付けるものです。

この提案は、議会が新しい法律を可決する前に、モデルがすでに重大な損害を引き起こしている必要があることが多い現在の規制状況を変化させることを目的としています。予測的な閾値を設定することで、この法案は先制的なレビュープロセスを構築しようとしています。しかし、批評家や観察者は「規制の虜奪い」について懸念を表明しており、このような高い閾値や高額なコンプライアンス監査、または保険の要件が、中小のスタートアップを事実上市場から排除する可能性があると示唆しています。その主張は、巨額の資本を持つ大規模な研究所だけが認証プロセスを乗り切ることができ、確立された巨大企業を、より機敏な中小の競合他社から保護する堀（モート）を潜在的に作り出す可能性があるというものです。

この法案をめぐる議論は、執行における実務的および倫理的な複雑さも浮き彫りにしています。コメントした人々は、特に非物理的な危害やソーシャルメディアへの影響に関して、「死亡」や「損害」を法的に正確にどのように定量化するのか疑問を呈しています。他の人々は、大規模な企業内において「AIによる」事象に対して特定の個人を訴追することの難しさを指摘し、法的先例の欠如を指摘しました。さらに、一部の参加者は、この法案は主要なオープンソースモデルをダウンロードしてプライベートなハードウェアで実行できる悪意のある行為者に対しては効果がない可能性があると主張し、法律は大規模な商業展開を遅らせる可能性はあるものの、十分な資金を持つ民間団体による高リスクな使用を防げない可能性を示唆しました。