Reflection, 501B 매개변수 open-weight MoE 모델 Beam 공개…23.8조 토큰 사전학습과 대규모 RL로 코딩·agentic 성능 강화

Reflection은 총 5010억 개 매개변수와 활성 230억 개 매개변수를 갖춘 sparse MoE 모델 Beam을 공개했습니다. Beam은 23.8조 개 토큰으로 사전학습됐으며, 10.5K NVIDIA GB300 GPU에서 4주간 1억 건 이상의 rollout을 생성한 대규모 RL 학습을 거쳤습니다. 회사는 최종 red-teaming과 평가를 진행 중이며, 이달 중 weights, technical report, model card, developer artifacts를 공개할 예정입니다.

Beam은 Kimi K3 같은 최상위 open 모델에는 원시 성능에서 뒤처지지만, 코딩·agentic 작업에서 더 큰 모델과 경쟁하면서 추론 효율을 차별점으로 내세웁니다. 이는 open-weight 모델 경쟁이 단순한 매개변수 규모 확대를 넘어, 실제 개발 워크플로와 agent 실행 비용을 낮추는 방향으로 이동하고 있음을 보여줍니다.