AIHere

StepFun publica Step 5 Preview, un modelo MoE de 600.000 millones de parámetros con pesos abiertos

La empresa china de IA StepFun ha publicado los pesos abiertos de Step 5 Preview, un modelo disperso de 600.000 millones de parámetros con 27.000 millones activos y una ventana de contexto de 1 millón de tokens.

Redacción de AIHere News· 2 min de lectura🇨🇳 China

StepFun, una startup china de inteligencia artificial, ha publicado como pesos abiertos su modelo de lenguaje Step 5 Preview. Desde el 17 de octubre de 2026, los puntos de control en precisión FP8 y BF16 están disponibles para su descarga en Hugging Face y ModelScope.

El modelo utiliza un diseño de mezcla de expertos (MoE) disperso. Tiene 600.000 millones de parámetros en total, pero solo se activan 27.000 millones para cada token. Step 5 Preview también admite una ventana de contexto de 1 millón de tokens.

Diseñado para agentes de largo alcance

StepFun describe el modelo como creado específicamente para tareas agénticas de largo alcance. Este tipo de tareas exige que un sistema de IA utilice herramientas, mantenga un registro de los resultados intermedios y conserve la coherencia a lo largo de flujos de trabajo extensos de varios pasos. La gran ventana de contexto busca que el modelo pueda tener a la vista, a la vez, documentos extensos o historiales de interacción largos.

En una arquitectura MoE, solo se ejecuta un subconjunto de subredes especializadas para cada entrada. Esto permite que un modelo con una capacidad total muy grande mantenga el cómputo de inferencia más cercano al de un modelo denso mucho más pequeño. Además, publicar un punto de control FP8 junto con BF16 reduce la memoria necesaria para servirlo.

Otra incorporación a la carrera de modelos abiertos

La etiqueta "Preview" indica que no se trata de una versión final. La información disponible no incluye un calendario para una versión completa ni comparativas de rendimiento detalladas, por lo que las afirmaciones sobre cómo se compara el modelo con sus rivales deberán verificarse de forma independiente.

Con sede en Shanghái, StepFun es una de varias startups chinas que desarrollan modelos de lenguaje de gran escala. Publicar modelos de escala de vanguardia con pesos abiertos se ha convertido en una estrategia habitual entre los desarrolladores chinos de IA, que ofrece a investigadores y empresas la opción de ejecutar y adaptar los sistemas en su propia infraestructura en lugar de depender únicamente de APIs alojadas.

#StepFun#pesos abiertos#mezcla de expertos#agentes de IA#China

Comentarios

Sé respetuoso. Los comentarios se revisan automáticamente; se eliminan el spam, los insultos y los datos personales. La IA puede responder a las preguntas.

Todavía no hay comentarios. Inicia el debate o haz una pregunta.

Relacionadas