Bản nháp luật của Anthropic cho phép tòa án ngăn chặn các mô hình AI khi có rủi ro thảm khốc sắp xảy ra

Anthropic đã soạn thảo một dự luật liên bang về AI để trình Quốc hội Mỹ, theo đó thẩm phán chỉ được đình chỉ một mô hình AI tiên tiến khi đối mặt với rủi ro thảm khốc sắp xảy ra, theo Politico. Báo này dẫn một bản sao của bản nháp mật và lời kể của ba nguồn tin giấu tên. Dự luật chưa được đệ trình và công ty chưa công bố. Một bản được cho là bản nháp này đã lan truyền trên mạng ít nhất từ ngày 17 tháng 10 năm 2026, nhưng Anthropic chưa xác thực tính xác thực của nó.

Người phát ngôn của Anthropic xác nhận đề xuất này được xây dựng dựa trên Khung AI Tiên tiến mà công ty đã công bố vào tháng 6 và sau đó đã vận động các nhà lập pháp liên bang và tiểu bang. Họ mô tả đây là "những biện pháp hợp lý mà chúng tôi tin rằng Quốc hội nên hành động."

Cơ chế chặn hoạt động ra sao

Theo bản nháp, các đánh giá viên độc lập đăng ký với Bộ Thương mại sẽ định kỳ rà soát các phòng thí nghiệm và mô hình tiên tiến của họ. Các phòng thí nghiệm có thể trả tiền cho đánh giá viên, miễn là khoản thanh toán không phụ thuộc vào kết quả. Nếu một đánh giá viên phát hiện rủi ro sắp xảy ra thuộc danh mục quy định, họ sẽ có 72 giờ để cảnh báo Bộ Thương mại. Bộ này sau đó có thể yêu cầu một thẩm phán liên bang ở Washington đình chỉ mô hình. Các rủi ro kích hoạt gồm chế tạo hoặc phát tán vũ khí sinh học, tấn công mạng và tình huống mô hình thoát khỏi sự kiểm soát của nhà phát triển.

Một bài đọc bản văn bị rò rỉ được đăng trên LessWrong cho biết nghĩa vụ chứng minh thuộc về Bộ trưởng Thương mại, biện pháp chặn phải là giải pháp ít hạn chế nhất, và các lệnh sẽ hết hiệu lực sau 45 ngày. Không cơ quan liên bang nào khác có thể dừng một mô hình theo luật này. Các phòng thí nghiệm cũng cần có khung an toàn, công bố báo cáo minh bạch, bảo vệ người tố giác và báo cáo sự cố nghiêm trọng.

Ngưỡng 50 người tương tự với đạo luật SB 53 của California, được ký ngày 29 tháng 9 năm 2025, và Đạo luật FRONTIER lưỡng đảng được Lori Trahan và Jay Obernolte đệ trình tại Hạ viện ngày 23 tháng 7 năm 2026. Khác với dự luật đó, vốn cho phép Bộ trưởng đình chỉ mô hình dựa trên kết luận bằng văn bản trước mọi phiên điều trần, phiên bản của Anthropic đặt thẩm phán lên trước và chỉ đăng ký đánh giá viên thay vì cấp phép cho họ.

Điều khoản ưu tiên pháp luật liên bang gây tranh cãi nhất

Điều khoản gây tranh cãi nhiều nhất sẽ ghi đè một số quy định của tiểu bang về công bố rủi ro, đánh giá bên thứ ba và báo cáo sự cố, những lĩnh vực đã được SB 53 và Đạo luật RAISE của New York điều chỉnh. Anthropic ủng hộ cả hai đạo luật này. Nghị viên New York Alex Bores, người soạn thảo Đạo luật RAISE, cho rằng bản nháp yếu hơn khung của chính Anthropic và, ở các điểm như việc sử dụng mô hình nội bộ và thời hạn báo cáo, còn yếu hơn luật hiện hành của tiểu bang.

Charlie Bullock thuộc Viện Luật và AI cho rằng đề xuất này khá hợp lý nhưng yếu hơn Đạo luật FRONTIER về quyền ban hành quy định và quyền đình chỉ khẩn cấp. Ông cảnh báo rằng các kiểm toán viên không có giấy phép có thể cạnh tranh bằng cách nới lỏng tiêu chuẩn. Nathan Calvin thuộc Encode lập luận rằng việc yêu cầu thẩm phán cân nhắc thiệt hại đối với nhà phát triển sẽ khiến các biện pháp chặn khó có được hơn. Trong khi đó, nhà phân tích trên LessWrong cho rằng một con đường pháp lý rõ ràng sẽ khiến việc liên bang đình chỉ mô hình có khả năng xảy ra hơn so với luật hiện hành.