Anthropic-conceptwet wil rechters AI-modellen laten stoppen bij dreigende catastrofe

Anthropic heeft een federaal AI-wetsvoorstel opgesteld voor het Amerikaanse Congres dat een rechter alleen de mogelijkheid zou geven een frontier-model op te schorten bij een dreigend catastrofaal risico. Dat meldt Politico, dat zich baseert op een kopie van het vertrouwelijke concept en op drie anonieme bronnen. De tekst is nog niet ingediend en het bedrijf heeft hem niet gepubliceerd. Een kopie die als dit concept wordt aangeboden, circuleert sinds 17 oktober 2026 online, al is die door Anthropic niet geverifieerd.

Een woordvoerder van Anthropic bevestigde dat het voorstel voortbouwt op het Advanced AI Framework dat het bedrijf in juni presenteerde en sindsdien heeft voorgelegd aan wetgevers op federaal en staatsniveau. Volgens de woordvoerder gaat het om "redelijke maatregelen waarop het Congres volgens ons actie moet ondernemen".

Hoe een blokkade zou werken

Volgens het concept zouden onafhankelijke beoordelaars die bij het Amerikaanse handelsministerie zijn geregistreerd, periodiek de AI-labs en hun frontier-modellen onder de loep nemen. Labs mogen die beoordelaars betalen, mits de betaling niet afhangt van de uitkomst. Als een beoordelaar een dreigend risico uit de wettelijke lijst signaleert, heeft hij 72 uur om het ministerie te waarschuwen. Het ministerie kan dan een federale rechter in Washington vragen het model op te schorten. De risico's die een procedure kunnen activeren zijn het maken of verspreiden van biowapens, cyberaanvallen en een model dat de controle van zijn ontwikkelaar ontglipt.

Volgens een lezing van de uitgelekte tekst op LessWrong ligt de bewijslast bij de minister van Handel, moet een blokkade het minst ingrijpende middel zijn en vervallen de bevelen na 45 dagen. Geen andere federale instantie zou een model op grond van deze wet kunnen stilleggen. Labs zouden bovendien een veiligheidskader nodig hebben, gepubliceerde transparantierapporten, bescherming voor klokkenluiders en melding van ernstige incidenten.

De drempel van 50 personen is gelijk aan die van de Californische SB 53, die op 29 september 2025 werd ondertekend, en aan de bipartisane FRONTIER Act die op 23 juli 2026 in het Huis van Afgevaardigden werd ingediend door Lori Trahan en Jay Obernolte. Anders dan die wet, die de minister een model laat opschorten op basis van een schriftelijke vaststelling voordat er een hoorzitting is, zet het voorstel van Anthropic de rechter voorop. Daarnaast worden beoordelaars alleen geregistreerd en niet gelicentieerd.

Voorrangsregels leveren de scherpste kritiek op

De meest omstreden bepaling zou sommige staatsregels overrulen over het openbaar maken van risico's, evaluatie door derden en incidentmelding. Die onderwerpen worden gedekt door SB 53 en de RAISE Act van New York, die Anthropic beide steunde. Alex Bores, lid van de Assemblee van New York en auteur van de RAISE Act, vindt dat het concept zwakker is dan het eigen raamwerk van Anthropic. Op punten zoals het interne gebruik van modellen en de meldingstermijnen is het volgens hem ook zwakker dan bestaande staatswetgeving.

Charlie Bullock van het Institute for Law & AI noemde het voorstel redelijk, maar zwakker dan de FRONTIER Act op het gebied van regelgeving en noodbevoegdheden om systemen stil te leggen. Hij waarschuwde dat niet-gelicentieerde auditors met elkaar zouden kunnen wedijveren door soepel te zijn. Nathan Calvin van Encode stelt dat rechters die de schade voor ontwikkelaars moeten meewegen, een blokkade moeilijker zouden maken. De analist van LessWrong meent juist dat een expliciet juridisch pad een federale stop waarschijnlijker maakt dan het huidige recht.