AIHere

Ant Group udostępnia wagi modelu Ling-3.1-flash z kontekstem 1 mln tokenów

Ant Group opublikowała wagi modelu Ling-3.1-flash, liczącego około 560 miliardów parametrów, który deweloperzy mogą teraz uruchamiać na własnym sprzęcie.

Redakcja AIHere· 1 min czytania🇨🇳 Chiny

Chińska firma technologiczna Ant Group udostępniła publicznie wagi swojego modelu sztucznej inteligencji Ling-3.1-flash, stan na 16 października 2026 roku. Dzięki temu deweloperzy mogą hostować model na infrastrukturze, którą kontrolują, zamiast polegać na usłudze hostowanej przez dostawcę.

Według firmy Ling-3.1-flash zawiera łącznie około 560 miliardów parametrów, ale do przetworzenia każdego tokena wykorzystuje tylko około 25 miliardów. Model obsługuje okno kontekstowe o długości do miliona tokenów, co pozwala przetwarzać bardzo długie dane wejściowe w jednym przebiegu.

Stworzony z myślą o programowaniu i agentach

Ant Group kieruje model do programistów, przepływów pracy w stylu agentowym oraz zastosowań zawodowych, które wymagają pracy z obszernymi dokumentami i wywoływania zewnętrznych narzędzi. Model został zaprezentowany wcześniej, a publikacja wag towarzyszy wsparcie dla wdrożenia w frameworkach do wnioskowania, w tym SGLang i vLLM.

Zespół opisał także metodę wdrożenia z mieszaną precyzją. Ant Group twierdzi, że zmniejsza ona pamięć potrzebną na wagi modelu z około 534 GB do 292 GB. W konfiguracji z procesorami graficznymi Hopper, o której pisze firma, wymagania sprzętowe spadły o połowę: z ośmiu GPU do czterech.

Dlaczego to ważne

Duża różnica między łączną liczbą parametrów a aktywnymi wskazuje na architekturę mieszanki ekspertów, podejście mające obniżyć koszty działania bardzo dużych modeli. Zmniejszenie o połowę liczby potrzebnych GPU może sprawić, że samodzielne hostowanie modelu tej skali stanie się realne dla większej liczby firm i grup badawczych.

Ant Group, znana przede wszystkim jako operator Alipay, dołącza do rosnącej listy chińskich firm publikujących duże modele z otwartymi wagami. Aby ocenić, jak Ling-3.1-flash radzi sobie w zadaniach programistycznych, agentowych i pracy z długimi dokumentami, na które firma kieruje model, potrzebne będą niezależne testy.

#Ant Group#Ling-3.1-flash#otwarte wagi#duże modele językowe#AI z Chin

Komentarze

Zachowuj szacunek. Komentarze są sprawdzane automatycznie; spam, obelgi i dane osobowe są usuwane. Pytania mogą otrzymać odpowiedź od AI.

Nie ma jeszcze komentarzy. Rozpocznij dyskusję lub zadaj pytanie.

Powiązane