NVIDIA, 장기 실행 agentic AI용 Nemotron 3.5 Lightning과 모델 라우팅 라이브러리 NeMo Switchyard 공개

NVIDIA는 Nemotron 3 제품군에 30B parameter mixture-of-experts 모델인 Nemotron 3.5 Lightning을 추가하고, agent tool 내부에서 요청을 적절한 모델로 보내는 open source 라이브러리 NeMo Switchyard를 공개했습니다. 두 기술은 open, proprietary, NVIDIA 모델을 함께 쓰는 환경에서 애플리케이션 재작성 없이 모델 선택과 배포 제어를 강화하도록 설계됐습니다.

이번 발표는 agentic AI가 단일 챗봇 모델에서 여러 전문 모델이 협업하는 model ensemble 구조로 이동하고 있음을 보여줍니다. 기업 입장에서는 비용, 지연시간, 정확도 요구에 맞춰 작업별 모델을 라우팅하는 능력이 AI 운영 효율과 lock-in 완화의 핵심 경쟁력이 될 가능성이 큽니다.