AIHere

중국 StepFun, 600B 규모 MoE 모델 Step 5 Preview 오픈 웨이트 공개

중국 AI 기업 StepFun이 총 6,000억 개 매개변수와 활성 270억 개, 100만 토큰 컨텍스트를 갖춘 희소 모델 Step 5 Preview의 오픈 웨이트를 공개했다.

AIHere 뉴스데스크· 1 분 분량🇨🇳 중국

중국 인공지능 스타트업 StepFun이 언어 모델 Step 5 Preview의 오픈 웨이트를 공개했다. 2026년 10월 17일 기준 FP8과 BF16 정밀도의 체크포인트를 Hugging Face와 ModelScope에서 내려받을 수 있다.

이 모델은 희소 전문가 혼합(MoE) 구조를 채택했다. 전체 매개변수는 6,000억 개이지만, 토큰 하나를 처리할 때 활성화되는 것은 270억 개뿐이다. Step 5 Preview는 100만 토큰의 컨텍스트 윈도우도 지원한다.

장기 과제 수행형 에이전트를 위해 설계

StepFun은 이 모델이 장기 과제를 수행하는 에이전트 작업에 특화되어 설계되었다고 설명했다. 이러한 작업에서는 AI 시스템이 도구를 호출하고, 중간 결과를 추적하며, 길고 다단계인 워크플로 전반에서 일관성을 유지해야 한다. 대용량 컨텍스트 윈도우는 방대한 문서나 긴 상호작용 기록을 한 번에 모델이 볼 수 있도록 하기 위한 것이다.

MoE 구조에서는 입력마다 특화된 하위 네트워크 중 일부만 실행된다. 이를 통해 전체 용량이 매우 큰 모델이라도 추론 연산량은 훨씬 작은 밀집(dense) 모델에 가깝게 유지할 수 있다. BF16과 함께 FP8 체크포인트를 제공하는 것도 서빙에 필요한 메모리를 줄여준다.

오픈 모델 경쟁에 합류한 또 하나의 모델

'Preview'라는 표기는 이것이 최종 출시 버전이 아님을 뜻한다. 현재 공개된 정보에는 정식 버전의 출시 일정이나 상세한 벤치마크 비교가 포함되어 있지 않아, 경쟁 모델과의 성능 비교 주장은 독립적인 평가가 필요하다.

상하이에 본사를 둔 StepFun은 대규모 언어 모델을 개발하는 여러 중국 스타트업 중 하나다. 최첨단 규모의 모델을 오픈 웨이트로 공개하는 것은 중국 AI 개발사들 사이에서 흔한 전략이 되었으며, 이를 통해 연구자와 기업은 호스팅 API에만 의존하지 않고 자체 인프라에서 모델을 실행하고 조정할 수 있다.

#StepFun#오픈 웨이트#전문가 혼합#AI 에이전트#중국

댓글

서로 존중해 주세요. 댓글은 자동으로 검사되며, 스팸, 모욕 및 개인정보는 삭제됩니다. 질문에는 AI가 답변할 수 있습니다.

아직 댓글이 없습니다. 토론을 시작하거나 질문해 보세요.

관련 기사