El borrador de Anthropic permitiría a los tribunales frenar modelos de IA ante una catástrofe inminente

Anthropic ha redactado una propuesta de legislación federal sobre IA para el Congreso de Estados Unidos que permitiría a un juez suspender un modelo de frontera únicamente ante un riesgo catastrófico inminente, según Politico, que citó una copia del borrador confidencial y a tres fuentes anónimas. El texto no ha sido presentado y la compañía no lo ha publicado. Una copia presentada como el borrador circula en internet desde el 17 de octubre de 2026 como mínimo, aunque Anthropic no la ha autenticado.

Un portavoz de Anthropic confirmó que la propuesta se basa en el Marco Avanzado para la IA que la compañía presentó en junio y que desde entonces ha promovido ante legisladores federales y estatales, y la describió como "medidas razonables sobre las que creemos que el Congreso debería actuar".

Cómo funcionaría un bloqueo

Según el borrador, evaluadores independientes registrados en el Departamento de Comercio revisarían periódicamente a los laboratorios y sus modelos de frontera. Los laboratorios podrían pagarles, siempre que el pago no dependa del resultado. Si un evaluador detectara un riesgo inminente de los enumerados, tendría 72 horas para alertar al Departamento de Comercio, que entonces podría pedir a un juez federal en Washington que suspendiera el modelo. Los riesgos que activarían el mecanismo son la creación o difusión de armas biológicas, los ciberataques y que un modelo escape al control de su desarrollador.

Una lectura del texto filtrado publicado en LessWrong indica que la carga de la prueba recae en el secretario de Comercio, que el bloqueo debe ser la medida menos restrictiva posible y que las órdenes caducan a los 45 días. Ninguna otra agencia federal podría detener un modelo con esta ley. Además, los laboratorios necesitarían un marco de seguridad, publicar informes de transparencia, contar con protecciones para denunciantes e informar de incidentes críticos.

El umbral de 50 personas replica el de la ley SB 53 de California, firmada el 29 de septiembre de 2025, y la FRONTIER Act, de carácter bipartidista, presentada en la Cámara de Representantes el 23 de julio de 2026 por Lori Trahan y Jay Obernolte. A diferencia de esa ley, que permite al secretario suspender un modelo mediante una resolución escrita antes de cualquier audiencia, la versión de Anthropic coloca primero al juez y solo registra a los evaluadores en lugar de concederles licencias.

La preferencia federal genera las críticas más duras

La disposición más controvertida anularía algunas normas estatales sobre divulgación de riesgos, evaluación por terceros e informes de incidentes, ámbitos que regulan la SB 53 y la RAISE Act de Nueva York, ambas respaldadas por Anthropic. Alex Bores, miembro de la Asamblea de Nueva York y autor de la RAISE Act, afirma que el borrador es más débil que el propio marco de Anthropic y, en aspectos como el uso interno de los modelos y los plazos de notificación, más débil que la legislación estatal vigente.

Charlie Bullock, del Institute for Law & AI, lo calificó de bastante razonable, pero más débil que la FRONTIER Act en materia de reglamentación y facultades de apagado de emergencia, y advirtió de que los auditores sin licencia podrían competir relajando sus exigencias. Nathan Calvin, de Encode, sostiene que pedir a los jueces que sopesen el perjuicio para los desarrolladores dificultaría obtener bloqueos, mientras que el analista de LessWrong defiende que una vía legal explícita haría más probable una suspensión federal que con la normativa actual.