PrismML, 5.9GB로 줄인 Ternary Bonsai 2 27B 공개…27B급 multimodal 모델 성능 98.2% 유지

PrismML은 Qwen3.8 27B 기반의 Ternary Bonsai 2 27B를 공개하며, 27B급 multimodal 모델을 5.9GB footprint로 압축했다고 밝혔습니다. 이 모델은 ternary {-1, 0, +1} weights와 FP16 group-wise scaling을 적용해 weight당 1.76 effective bits를 구현했으며, full-precision 대비 9배 이상 작지만 aggregate benchmark 성능의 **98.2%**를 유지합니다. 262K-token context window, text-and-image input, Apache 2.0 license도 지원합니다.

이번 발표는 대형 multimodal 모델의 local deployment 가능성을 한 단계 넓히는 사례입니다. 성능 손실을 최소화한 저비트 압축이 성숙하면 GPU 의존도를 낮추고, PC·edge device·on-prem 환경에서 고성능 AI 기능을 더 현실적으로 배포할 수 있습니다. 특히 reasoning, coding, vision, agentic capability를 함께 유지했다는 점은 향후 LLM 경쟁이 단순 모델 크기보다 배포 효율과 실행 비용 중심으로 이동하고 있음을 보여줍니다.