StepFun brengt Step 5 Preview uit als open-weights MoE-model van 600 miljard parameters

StepFun, een Chinese startup op het gebied van kunstmatige intelligentie, heeft zijn taalmodel Step 5 Preview als open weights uitgebracht. Sinds 17 oktober 2026 zijn checkpoints in zowel FP8- als BF16-precisie beschikbaar om te downloaden via Hugging Face en ModelScope.

Het model maakt gebruik van een schaars Mixture-of-Experts (MoE)-ontwerp. Het bevat in totaal 600 miljard parameters, maar voor elk token worden er slechts 27 miljard geactiveerd. Step 5 Preview ondersteunt bovendien een contextvenster van 1 miljoen tokens.

Gebouwd voor langlopende agents

StepFun omschrijft het model als speciaal ontworpen voor langlopende agentische taken. Dergelijke taken vereisen dat een AI-systeem tools aanroept, tussenresultaten bijhoudt en samenhangend blijft over lange, meerstapsworkflows heen. Het grote contextvenster moet het model in staat stellen uitgebreide documenten of lange interactiegeschiedenissen tegelijk in beeld te houden.

In een MoE-architectuur wordt voor elke invoer slechts een deel van de gespecialiseerde subnetwerken uitgevoerd. Zo kan een model met een zeer grote totale capaciteit de rekenkracht voor inferentie beperken tot die van een veel kleiner dicht model. Het meeleveren van een FP8-checkpoint naast BF16 verlaagt bovendien het geheugen dat nodig is om het model te draaien.

Nog een speler in de race om open modellen

Het label "Preview" geeft aan dat dit geen definitieve release is. De beschikbare informatie bevat geen tijdlijn voor een volledige versie of gedetailleerde benchmarkvergelijkingen, dus uitspraken over hoe het model zich verhoudt tot concurrenten moeten door onafhankelijke partijen worden geëvalueerd.

StepFun, gevestigd in Shanghai, is een van verschillende Chinese startups die grote taalmodellen bouwen. Het uitbrengen van modellen op frontier-schaal met open weights is onder Chinese AI-ontwikkelaars een gangbare strategie. Onderzoekers en bedrijven kunnen de systemen zo op hun eigen infrastructuur draaien en aanpassen, in plaats van alleen te vertrouwen op gehoste API's.