Ant Group công bố trọng số Ling-3.1-flash với ngữ cảnh 1 triệu token

Công ty công nghệ Trung Quốc Ant Group đã công khai trọng số của mô hình trí tuệ nhân tạo Ling-3.1-flash kể từ ngày 16 tháng 10 năm 2026. Động thái này cho phép các nhà phát triển tự triển khai mô hình trên hạ tầng do họ kiểm soát, thay vì phụ thuộc vào dịch vụ lưu trữ sẵn.

Theo công ty, Ling-3.1-flash có tổng cộng khoảng 560 tỷ tham số, nhưng mỗi token được xử lý chỉ sử dụng khoảng 25 tỷ tham số. Mô hình có thể xử lý cửa sổ ngữ cảnh lên tới một triệu token, cho phép đưa vào các đầu vào rất dài chỉ trong một lần xử lý.

Hướng tới lập trình và tác tử AI

Ant Group định vị mô hình này cho lập trình, các quy trình làm việc kiểu tác tử và công việc chuyên môn có liên quan đến tài liệu dài cùng việc gọi các công cụ bên ngoài. Mô hình đã được giới thiệu trước đó, và đợt phát hành trọng số đi kèm hỗ trợ triển khai cho các framework suy luận gồm SGLang và vLLM.

Nhóm phát triển cũng mô tả một phương pháp triển khai dùng độ chính xác hỗn hợp. Ant Group cho biết phương pháp này giảm bộ nhớ cần cho trọng số mô hình từ khoảng 534GB xuống còn 292GB. Trong cấu hình GPU Hopper mà công ty báo cáo, điều này giúp giảm một nửa yêu cầu phần cứng, từ tám GPU xuống còn bốn GPU.

Vì sao điều này quan trọng

Khoảng cách lớn giữa tổng số tham số và tham số hoạt động cho thấy thiết kế hỗn hợp chuyên gia (mixture-of-experts), một cách tiếp cận nhằm giữ chi phí vận hành các mô hình rất lớn ở mức thấp hơn. Việc giảm một nửa số GPU cần thiết có thể khiến việc tự lưu trữ một mô hình quy mô này trở nên khả thi hơn đối với nhiều công ty và nhóm nghiên cứu.

Ant Group, được biết đến nhiều nhất với vai trò vận hành Alipay, gia nhập danh sách ngày càng dài các công ty Trung Quốc phát hành mô hình lớn với trọng số mở. Cần có các đánh giá độc lập để cho thấy Ling-3.1-flash hoạt động ra sao trong các tác vụ lập trình, tác tử và xử lý tài liệu dài mà công ty đang nhắm tới.