Anthropic起草法案拟允许法院在AI模型面临迫在眉睫的灾难风险时将其叫停

据Politico报道，Anthropic已为美国国会起草联邦人工智能立法草案，规定只有在前沿模型面临迫在眉睫的灾难性风险时，法官才可暂停该模型。该报道引用了这份保密草案的一份副本以及三名匿名消息人士的说法。该文本尚未提交审议，公司也未公开发布。一份被当作草案的文件自2026年10月17日起至少已在网上流传，但Anthropic尚未对其真实性予以确认。

Anthropic发言人确认，该提案基于公司今年6月发布、此后已向联邦和州立法者推介的《先进人工智能框架》，并表示这些是“我们认为国会应当采取行动的合理措施”。

叫停机制如何运作

根据草案，在商务部注册的独立评估机构将定期审查各实验室及其前沿模型。实验室可以向这些机构付费，但付费不得取决于评估结果。若评估机构发现存在明确列举的迫在眉睫风险，将有72小时通知商务部，商务部随后可请求华盛顿的联邦法官暂停该模型。触发条件包括生物武器的制造或扩散、网络攻击，以及模型脱离开发者控制。

据LessWrong网站发布的泄露文本解读，举证责任由商务部长承担，叫停措施必须是限制性最小的补救方式，且命令在45天后失效。根据该法律，其他联邦机构无权叫停模型。实验室还需制定安全框架、发布透明度报告、提供吹哨人保护，并报告重大事件。

该草案设定的50人门槛与加州SB 53相呼应，后者于2025年9月29日签署生效。此外，由Lori Trahan和Jay Obernolte于2026年7月23日在众议院提出的两党联合《FRONTIER法案》也采用类似门槛。不同的是，SB 53允许部长在任何听证前依据书面认定暂停模型，而Anthropic的版本则由法官先行裁决，且只对评估机构进行注册，而非发放许可。

优先权条款引发最尖锐批评

最具争议的条款将覆盖部分州级规则，涉及风险披露、第三方评估和事件报告，这些领域目前受SB 53和纽约州《RAISE法案》规范，而Anthropic两者都曾表示支持。《RAISE法案》的起草者、纽约州众议员Alex Bores认为，该草案弱于Anthropic自身的框架；在内部模型使用和报告期限等问题上，它甚至弱于现行州法。

法律与人工智能研究所的Charlie Bullock认为该草案总体相当合理，但在规则制定和紧急关停权力方面弱于《FRONTIER法案》，并警告未获许可的审计机构可能为了争取客户而放松标准。Encode的Nathan Calvin则指出，要求法官权衡对开发者的损害，将使叫停更难实现；而LessWrong的分析人士则认为，明确的法律途径会使联邦叫停比现行法律下更有可能发生。