Cerebras와 OpenAI, OpenAI API용 Ultrafast Mode 공개…GPT-5.6 Sol을 초당 750 출력 토큰으로 구동하는 고속 추론 계층

Cerebras와 OpenAI는 OpenAI API에서 먼저 제공되는 신규 서비스 계층 Ultrafast Mode를 공개했습니다. Cerebras가 구동하는 GPT-5.6 Sol Ultrafast는 초당 최대 750개 출력 토큰을 제공하며, Humanity’s Last Exam 2,500문항을 11시간 11분 만에 처리해 Claude Fable 5 대비 약 7배 빠른 속도를 보였다고 밝혔습니다.

이번 발표는 대형 모델 추론에서 지능과 지연 시간 사이의 절충을 줄이려는 인프라 경쟁이 본격화되고 있음을 보여줍니다. 초기 접근 고객과 자체 벤치마크라는 한계는 있지만, 초저지연 추론이 실시간 에이전트, 코딩 자동화, 고객 응대, 금융·의료 등 시간 민감형 워크플로의 채택 속도를 높일 수 있습니다.