Microsoft·Hugging Face, 데이터베이스 검증을 RL 보상으로 쓰는 ThinkingBox-Training 공개

Microsoft와 Hugging Face는 에이전트가 남긴 최종 데이터베이스 상태를 실행 가능한 검사로 채점하고 이를 강화학습 보상으로 활용하는 ThinkingBox-Training을 GitHub에 공개했습니다. Qwen3.8-27B를 벤치마크 외 과제로 50단계 GRPO 미세조정한 결과, 507개 ThinkingBox-Bench 과제의 pass@1은 51.70%에서 60.78%로 올랐고, 20회 모두 성공한 과제는 38개에서 107개로 늘었습니다. 다만 한 번이라도 성공한 과제 수는 453개에서 446개로 소폭 줄어, 평균 성공률과 반복 신뢰성 사이의 차이가 드러났습니다.

프로덕션 데이터베이스를 변경하는 에이전트를 도입하는 팀은 단순 pass@1보다 최종 상태 검증과 반복 성공률을 별도 지표로 봐야 합니다. 보도된 결과는 실행 가능한 검증기를 보상으로 쓰면 일관성을 높일 수 있음을 보여주지만, 적용하려면 도메인별 기대 상태를 코드로 정의해야 하며 적용 범위가 좁아지는 비용도 감수해야 합니다. 이번 수치는 Qwen3.8-27B와 특정 과제 구성에서 나온 결과이므로 다른 모델·업무 환경에서도 같은 개선이 재현되는지는 아직 확인 과제로 남아 있습니다.