Experiential Labs, agent traces로 소형 모델을 증류해 frontier급 품질을 절반 비용에 제공하는 wmo serve 공개

Experiential Labs는 open-source 도구 world-model-optimizer의 새 기능인 wmo serve를 공개했습니다. 이 도구는 기존 agent traces를 활용해 소형 특화 모델을 지속적으로 증류하고, 작업별로 frontier 모델과 custom model을 라우팅해 OpenAI-compatible local endpoint로 제공합니다. 회사는 hosted solution을 통해 시간이 지날수록 개선되는 frontier급 endpoint를 40% 이상 낮은 비용에 제공한다고 설명했습니다.

agent 운영 과정에서 축적되는 traces를 학습 신호로 재활용하려는 접근은 LLM 비용 최적화가 단순 캐싱이나 프롬프트 축약을 넘어 지속적 모델 개선으로 이동하고 있음을 보여줍니다. 특히 frontier model과 distilled model을 혼합하는 routing 구조는 품질 저하를 줄이면서 추론 비용을 낮추려는 agent 인프라의 핵심 패턴으로 자리 잡을 가능성이 큽니다.