Anthropic 초안, 임박한 대재앙 위험 AI 모델을 법원이 중단할 수 있게 하는 법안 제안

Politico가 비공개 초안 사본과 익명의 소식통 3명을 인용해 보도한 바에 따르면, Anthropic은 미국 의회에 제출할 연방 AI 법안을 마련했으며, 이 법안은 임박한 대재앙적 위험에 직면한 경우에만 판사가 최첨단 모델의 운영을 중단시킬 수 있도록 한다. 해당 법안은 아직 발의되지 않았고 회사도 이를 공개하지 않았다. 초안으로 제시된 사본은 최소 2026년 10월 17일부터 온라인에서 유포되어 왔지만, Anthropic은 이를 진위 확인하지 않았다.

Anthropic 대변인은 이번 제안이 회사가 6월에 공개하고 이후 연방 및 주 의원들에게 알려온 '고급 AI 프레임워크'를 토대로 한다고 확인하며, 이를 "의회가 실행에 옮겨야 한다고 우리가 믿는 합리적인 조치"라고 설명했다.

차단은 어떻게 작동하나

초안에 따르면, 상무부에 등록된 독립 평가기관들이 주기적으로 연구소와 이들의 최첨단 모델을 검토하게 된다. 연구소는 이들에게 비용을 지불할 수 있지만, 지급이 평가 결과에 좌우되어서는 안 된다. 임박한 명시된 위험을 발견한 평가기관은 72시간 안에 상무부에 알려야 하며, 상무부는 이후 워싱턴의 연방 판사에게 해당 모델의 운영 중단을 요청할 수 있다. 촉발 위험으로 꼽힌 것은 생물무기의 제조 또는 확산, 사이버 공격, 그리고 모델이 개발자의 통제를 벗어나는 상황이다.

LessWrong에 게시된 유출 초안 텍스트에 대한 해석에 따르면, 입증 책임은 상무장관에게 있으며, 차단은 가장 덜 제한적인 구제 수단이어야 하고, 명령은 45일 후 효력을 잃는다. 이 법에 따라 다른 연방 기관은 어떤 모델도 중단시킬 수 없다. 또한 연구소는 안전 프레임워크, 공개된 투명성 보고서, 내부고발자 보호 제도, 중대 사고 보고 체계를 갖춰야 한다.

50명이라는 기준은 2025년 9월 29일 서명된 캘리포니아주 SB 53과, 2026년 7월 23일 하원에 발의되었고 Lori Trahan과 Jay Obernolte가 공동 발의한 초당적 FRONTIER법의 기준과 유사하다. 장관이 청문회 이전에 서면 판단만으로 모델 운영을 중단시킬 수 있게 하는 SB 53과 달리, Anthropic의 법안은 판사의 판단을 우선하고 평가기관을 면허 발급이 아니라 단순 등록 대상으로 둔다.

선점 조항이 가장 큰 비판을 받다

가장 논란이 되는 조항은 위험 공시, 제3자 평가, 사고 보고와 관련된 일부 주 법률을 무효화하는 내용이다. 이 분야는 SB 53과 뉴욕주의 RAISE법이 다루고 있으며, Anthropic은 두 법을 모두 지지했다. RAISE법을 작성한 뉴욕주 하원의원 Alex Bores는 이 초안이 Anthropic 자체 프레임워크보다 약하고, 내부 모델 사용이나 보고 기한 등 일부 사항에서는 기존 주법보다도 약하다고 주장한다.

Institute for Law & AI의 Charlie Bullock은 이 초안이 상당히 합리적이지만 규칙 제정과 긴급 운영 중단 권한 측면에서는 FRONTIER법보다 약하다고 평가하며, 면허 없는 감사인들이 관대함을 경쟁 요소로 삼을 수 있다고 경고했다. Encode의 Nathan Calvin은 판사에게 개발자가 입을 피해를 고려하도록 하면 차단 명령을 받기가 더 어려워질 것이라고 주장하는 반면, LessWrong 분석가는 명시적인 법적 경로가 생기면 현행법보다 연방 차원의 운영 중단이 더 가능해질 것이라고 주장한다.