허깅페이스, 선택지와 확률을 직접 반환하는 ‘의사결정 모델’ 소개

허깅페이스는 정해진 선택지에 대한 확률 분포를 직접 출력하는 의사결정 모델의 개념과 인터페이스를 설명했습니다. 기존 분류 모델과 달리 추론 시 선택지를 지정할 수 있고, 여러 질문에 선택·척도 점수·참거짓 확률 등 서로 다른 형식으로 답하도록 설계됐습니다.

고객 문의 분류처럼 결과 형식이 정해진 작업에서는 텍스트를 생성한 뒤 JSON으로 변환하는 단계를 줄이고, 확률을 바탕으로 라우팅 기준을 세울 수 있습니다. 다만 글은 의사결정 모델의 인터페이스와 가능성을 소개하는 수준이므로, 실제 도입 전에는 기존 분류·제로샷 방식과 정확도, 지연 시간, 비용을 같은 조건에서 비교해야 합니다.