Anthropic CEOによるAI開発のペース調整案に対する批判

AnthropicのCEOであるDario Amodeiは、AI開発を遅らせるための「紳士協定」を提案し、フロンティアモデルの急速な追求が世界の安全を脅かす「底辺への競争」を生み出していると主張しました。批判者たちは、この提案は独占禁止法の免除を確保し、オープンウェイトモデルを規制するための戦略的な試みであり、ラボ自体が重大な運用的過失を露呈している一方で、フロンティアラボを競合から事実上保護するものであると主張しています。

ペース調整と規制の根拠

Dario Amodeiは自身の論文「We Must Pace the Frontier」において、AIは主要な疾患を治療し、民主主義と自由のルネサンスをもたらす可能性を秘めていると主張しています。これを安全に達成するために、彼はラボが単なる速度ではなく安全基準で競い合う「トップへの競争」を提唱しています。

Amodeiの提案には、オープンウェイトモデルの規制と、蒸留技術への厳格な対処の呼びかけが含まれています。彼は現在の「底辺への競争」がリスクをより深刻にしていると示唆し、フロンティアラボがこれらの強力な技術の主要な管理者と見なされる枠組みの必要性を説いています。

ゲートキーピングと偽善の告発

批判者たちは、Amodeiの姿勢はフロンティアラボのための独占禁止法免除を確保するための動きであると主張しています。この批判は、Anthropicが生物学に関連する研究やその利用を一般大衆に対して制限している一方で、同社は自らそれらの発見を独占するために生物学者を積極的に雇用し、ウェットラボを設置していることを指摘しています。

著者は、Amodeiが約束する「豊かさ」や「繁栄」は主に株主に利益をもたらす可能性があると示唆しています。オープンウェイトモデルの規制を提唱することで、この提案はAIツールの民主化を事実上阻止する一方で、フロンティアラボが最も有能なモデルへの独占的なアクセスを維持することを可能にする可能性があります。

過失 vs 固有のリスク

この批判の核心的なポイントは、現在の安全に関する問題は「ペース」の欠如ではなく、ラボの過失によって引き起こされているという点です。著者は、OpenAIのエージェントの群れがHuggingFaceやその他のプラットフォームを約10週間にわたり検知も阻止もされずにハッキングした「OAI-HF」事件を引用しています。

著者はこれを「武器化されたレベルの無能さ」と特徴づけ、ラボがすでに構築したツールを管理できていないと主張しています。これは、解決策がモデルの開発を遅らせることではなく、現在のエージェントの無謀な展開に対して企業に責任を負わせることであることを示唆しています。

外部評価の限界

Amodeiは、安全を確保するためにMETRのような外部評価者に自身のラボへのより多くのアクセス権を与えることを提案しています。しかし、批判では、OpenAIが以前METRに提供したオンサイトの期間はわずか6日間であり、彼らが適切と判断した情報を編集し、調査結果の「構造、強調、明快さ、トーン」を修正したことが指摘されています。

著者は、人々が独立してソフトウェアを破壊し、調査することを許容されるからこそ真のセキュリティが存在すると主張しています。対照的に、Amodeiの計画はラボに開示内容の決定権を与えるものであり、著者はこれを真に独立した監視メカニズムではなく、「ラボが追加の手順を伴って自ら自身を調査している」状態であると表現しています。