Ant Group rilascia i pesi di Ling-3.1-flash con contesto da 1 milione di token

La società tecnologica cinese Ant Group ha reso pubblicamente disponibili i pesi del suo modello di intelligenza artificiale Ling-3.1-flash, a partire dal 16 ottobre 2026. La mossa consente agli sviluppatori di ospitare il modello su infrastrutture di loro proprietà, invece di affidarsi a un servizio in hosting.

Secondo l'azienda, Ling-3.1-flash conta circa 560 miliardi di parametri in totale, ma ne vengono utilizzati solo circa 25 miliardi per ogni token elaborato. Il modello può gestire una finestra di contesto fino a un milione di token, consentendo input molto lunghi in un'unica elaborazione.

Pensato per la programmazione e gli agenti

Ant Group propone il modello per la programmazione, per i flussi di lavoro in stile agente e per le attività professionali che coinvolgono documenti lunghi e chiamate a strumenti esterni. Il modello era già stato presentato in precedenza e il rilascio dei pesi è accompagnato dal supporto al deployment per framework di inferenza tra cui SGLang e vLLM.

Il team ha inoltre descritto un metodo di deployment a precisione mista. Ant Group afferma che questo riduce la memoria necessaria per i pesi del modello da circa 534 GB a 292 GB. Nella configurazione con GPU Hopper riportata dall'azienda, il fabbisogno hardware si è dimezzato, passando da otto GPU a quattro.

Perché conta

Il forte divario tra parametri totali e parametri attivi indica un'architettura mixture-of-experts, un approccio pensato per rendere meno costosa l'esecuzione di modelli molto grandi. Dimezzare il numero di GPU necessarie potrebbe rendere realistico l'auto-hosting di un modello di questa scala per un maggior numero di aziende e gruppi di ricerca.

Ant Group, nota soprattutto come gestore di Alipay, si unisce a un numero crescente di aziende cinesi che rilasciano grandi modelli con pesi aperti. Serviranno valutazioni indipendenti per mostrare le prestazioni di Ling-3.1-flash nelle attività di programmazione, agenti e documenti lunghi che l'azienda intende coprire.