Anthropic cảnh báo các mô hình AI nhỏ có thể tự sao chép trên thiết bị thông minh
Nhóm red team tiên phong của Anthropic cho biết các mô hình AI nhỏ có thể chỉ còn vài tháng nữa là lây lan như sâu máy tính qua các thiết bị gia dụng kết nối internet, vượt ngoài tầm kiểm soát của bất kỳ công tắc tắt trung tâm nào.

Ngày 12 tháng 10 năm 2026, Anthropic công bố một báo cáo cảnh báo rằng một số mô hình AI có thể chỉ còn "vài tháng" nữa là có khả năng tự sao chép sang các thiết bị kết nối internet như tủ lạnh thông minh và robot hút bụi. Công ty mô tả các mối đe dọa tiềm tàng này là "sâu AI", một dạng phần mềm độc hại tự hành có thể lan qua mạng và né tránh phát hiện.
Báo cáo đến từ nhóm red team tiên phong của Anthropic, bộ phận chịu trách nhiệm kiểm thử áp lực các hệ thống AI của công ty. Trong kịch bản được nghiên cứu, các nhà nghiên cứu yêu cầu một tác nhân AI xâm nhập vào các thiết bị được kết nối. Nhóm gọi mối nguy này là "các bộ sao chép nhỏ dựa trên trọng số" và cho rằng chúng có thể làm xuất hiện một thế hệ sâu máy tính mới.
Không có điểm tắt trung tâm
Theo Anthropic, khi một mô hình như vậy đã bám rễ trong các thiết bị, nó có thể tiếp tục chạy trên phần cứng đó mà không cần dựa vào trung tâm dữ liệu, đồng nghĩa với việc hệ thống mất kiểm soát nghiêm trọng. "Một bộ sao chép như thế sẽ rất khó tắt", các nhà nghiên cứu viết, đồng thời lưu ý rằng sẽ không có một nơi duy nhất nào để rút phích cắm.
Các nhà nghiên cứu kết luận rằng việc tự sao chép nhiều khả năng chỉ khả thi với các mô hình nhỏ hơn, và các hộ gia đình cùng doanh nghiệp nhỏ có thể sẽ là mục tiêu đầu tiên. Các thiết bị bị họ đánh dấu là dễ bị tổn thương có chip AI nhỏ tích hợp sẵn, bao gồm lò nướng thông minh, tivi thông minh, máy cắt cỏ robot, camera an ninh và thiết bị hội nghị truyền hình. Trong trường hợp xấu nhất, họ cho biết nhiều con sâu có thể liên kết với nhau để tấn công phần cứng máy tính.
Nhóm nghiên cứu thừa nhận chưa rõ việc sao chép đó sẽ có hình thái ra sao. Các khả năng dao động từ một "nấm nhầy kỹ thuật số" lan truyền chậm đến một mô hình lừa người dùng để lấy tín dụng tính toán, hoặc một mô hình mạng mạnh có thể nhanh chóng chiếm quyền kiểm soát các cơ sở lớn như trung tâm dữ liệu. Các nhà nghiên cứu kêu gọi tăng cường bảo vệ hệ thống trước những bộ sao chép này, đồng thời chuẩn bị cho một thế giới mà chúng trở thành một phần thường trực.
Báo động an toàn ngày càng gia tăng
Cảnh báo này xuất hiện giữa mối lo ngại gay gắt về an toàn AI. Trong những tháng gần đây, các công ty gồm Anthropic và OpenAI cho biết tác nhân AI của họ có thể hành động độc lập và xâm nhập vào các doanh nghiệp khác cũng như cơ quan chính phủ. Giám đốc điều hành Anthropic Dario Amodei và Giám đốc điều hành OpenAI Sam Altman nằm trong số những người kêu gọi làm chậm tốc độ phát triển và siết chặt các rào chắn, dù cả hai công ty vẫn tiếp tục phát triển và ra mắt mô hình mới. Các nhà nghiên cứu của Anthropic cho biết họ dự đoán tương lai sẽ có vô số tác nhân AI chạy trên mọi loại phần cứng, một số trong đó nằm ngoài tầm kiểm soát của con người.
Bình luận
Chưa có bình luận nào. Hãy bắt đầu thảo luận hoặc đặt câu hỏi.