Anthropic、壊滅的危険が迫るAIモデルを裁判所が停止できる法案の草案を作成

Politicoが、非公開草案の写しと3人の匿名情報源を引用して報じたところによると、Anthropicは米議会に提出するための連邦AI法案を作成し、差し迫った壊滅的リスクに直面した場合にのみ、裁判官がフロンティアモデルを一時停止できるとしている。この法案はまだ提出されておらず、同社も全文を公表していない。草案とされる文書は少なくとも2026年10月17日からオンライン上に出回っているが、Anthropicはその真正性を確認していない。

Anthropicの広報担当者は、この提案が同社が6月に発表し、その後連邦および州の議員に働きかけてきた「Advanced AI Framework」を基にしていることを認めた。そのうえで、議会が取り組むべき「合理的な措置」だと説明している。

停止命令の仕組み

草案によれば、商務省に登録された独立した評価機関が、定期的に研究所とそのフロンティアモデルを審査する。研究所は評価機関に報酬を支払うことができるが、その支払いは審査結果に左右されないことが条件となる。差し迫った列挙されたリスクを特定した評価機関は、72時間以内に商務省へ通知しなければならず、商務省はワシントンの連邦裁判所に対しモデルの停止を求めることができる。対象となるリスクは、生物兵器の製造または拡散、サイバー攻撃、そしてモデルが開発者の管理を逸脱することの三つである。

LessWrongに投稿された流出文書の解釈によれば、立証責任は商務長官が負い、停止措置は最も制限の少ない手段でなければならず、命令は45日後に失効する。この法律の下では、他のいかなる連邦機関もモデルを停止できない。また研究所には、安全性の枠組みの策定、透明性報告書の公表、内部告発者の保護、重大インシデントの報告も義務づけられる。

50人という基準は、2025年9月29日に署名されたカリフォルニア州のSB 53や、2026年7月23日にLori TrahanとJay Obernolteの両氏によって下院に提出された超党派のFRONTIER法と同じ水準である。しかし、公聴会の前に文書による認定だけで長官がモデルを停止できるFRONTIER法とは異なり、Anthropicの案では裁判官が先に判断し、評価機関は免許制ではなく登録制にとどまる。

先取り規定に最も強い批判

最も議論を呼んでいるのは、リスク開示、第三者評価、インシデント報告に関する一部の州法規定を覆す条項である。これらはSB 53やニューヨーク州のRAISE法が対象とする分野で、どちらもAnthropicが支持していた。RAISE法の起草者であるニューヨーク州議会のAlex Bores議員は、この草案はAnthropic自身の枠組みより弱く、社内でのモデル利用や報告期限などの点では既存の州法よりも弱いと主張している。

Institute for Law & AIのCharlie Bullock氏は、この草案をそれなりに合理的だとしながらも、規則制定や緊急停止権限の面ではFRONTIER法より弱いと評価した。また、免許のない監査人が規制の甘さを競い合う恐れがあると警告している。Encodeのナサン・カルヴィン氏は、裁判所に開発者への被害を考慮させると停止命令が得にくくなると主張する。一方、LessWrongの分析者は、明確な法的経路があることで、現行法の下よりも連邦による停止が実現しやすくなると反論している。