요약·해설: 긱하우스 편집팀. 편집 책임: 장진호 대표
피드로 돌아가기Tether AI Research, 0.8B 매개변수 온디바이스 에이전트 ‘BotPsy’ 공개
긱하우스 편집팀 · 출처와 편집 원칙
편집자 요약
Tether AI Research가 Qwen3.5-0.8B를 기반으로 도구 호출과 에이전트 작업에 특화한 0.8B 매개변수 모델 BotPsy를 발표했습니다. 자체 평가에서 1.2B 이하 모델을 6개 도구 사용 벤치마크 모두에서 앞섰고, 2.5배 큰 Qwen3.5-2B-Think보다 5개 벤치마크에서 높은 점수를 기록했습니다. 다만 저·중간 난도 작업용이며 고위험 의사결정에는 적합하지 않다고 밝혔습니다.
해설
작은 모델로 반복적인 도구 작업을 기기 안에서 처리하면 외부 API 비용과 사용자 데이터 전송을 줄일 수 있어, 개발자는 기능별로 BotPsy 같은 로컬 모델과 클라우드 모델을 나누는 방안을 검토할 수 있습니다. 그러나 벤치마크 성과는 실제 기기에서의 지연 시간·메모리 사용량이나 다양한 도구 환경의 신뢰성을 보장하지 않습니다. Apache 2.0 라이선스와 가중치 공개도 예고된 상태이므로, 정식 배포 후 실행 환경별 성능과 안전성을 확인해야 합니다.
댓글
토론
> geekhaus:~$ 다음 기사 읽기