Ant Group rilis bobot Ling-3.1-flash dengan konteks 1 juta token

Perusahaan teknologi asal China, Ant Group, telah membuka bobot model kecerdasan buatan Ling-3.1-flash untuk publik per 16 Oktober 2026. Langkah ini memungkinkan pengembang menjalankan model di infrastruktur yang mereka kendalikan, alih-alih bergantung pada layanan hosting.

Menurut perusahaan, Ling-3.1-flash memiliki sekitar 560 miliar parameter secara total, tetapi hanya sekitar 25 miliar yang digunakan untuk setiap token yang diprosesnya. Model ini mampu menangani jendela konteks hingga satu juta token, sehingga input yang sangat panjang dapat diproses dalam satu kali jalan.

Dirancang untuk coding dan agen

Ant Group memposisikan model ini untuk pemrograman, alur kerja bergaya agen, serta pekerjaan profesional yang melibatkan dokumen panjang dan pemanggilan alat eksternal. Model ini sebelumnya sudah diperkenalkan, dan rilis bobot ini disertai dukungan deployment untuk kerangka kerja inferensi, termasuk SGLang dan vLLM.

Tim tersebut juga memaparkan metode deployment presisi campuran. Ant Group menyebut metode ini memangkas memori yang dibutuhkan untuk bobot model dari sekitar 534GB menjadi 292GB. Dalam konfigurasi GPU Hopper yang dilaporkan perusahaan, kebutuhan perangkat keras itu berkurang separuh, dari delapan GPU menjadi empat GPU.

Mengapa ini penting

Selisih besar antara parameter total dan parameter aktif mengindikasikan desain mixture-of-experts, pendekatan yang bertujuan menekan biaya menjalankan model berskala sangat besar. Jika jumlah GPU yang dibutuhkan bisa dipangkas separuh, self-hosting model dengan skala seperti ini bisa menjadi realistis bagi lebih banyak perusahaan dan kelompok riset.

Ant Group, yang paling dikenal sebagai operator Alipay, bergabung dengan daftar perusahaan China yang semakin panjang dan merilis model besar dengan bobot terbuka. Evaluasi independen tetap diperlukan untuk menunjukkan performa Ling-3.1-flash pada tugas coding, agen, dan dokumen panjang yang menjadi sasaran perusahaan.