요약·해설: 긱하우스 편집팀. 편집 책임: 장진호 대표
피드로 돌아가기Cloudflare, GLM-5.3의 KV 캐시 교차 노출 수정…영향 응답 155건 확인

긱하우스 편집팀 · 출처와 편집 원칙
편집자 요약
Cloudflare는 Workers AI의 GLM-5.3에서 2026년 8월 27일부터 9월 9일까지 다른 고객의 요청 데이터가 응답에 섞일 수 있는 격리 문제를 확인했습니다. 영향은 681,280토큰을 초과하는 프롬프트의 응답 155건으로 한정됐으며, 고의적 악용의 증거는 발견되지 않았습니다. Cloudflare는 KV 캐시 용량을 늘리고 SGLang의 요청 거부 처리를 수정한 뒤 9월 9일 모델을 복구했습니다.
해설
이번 사고는 모델의 설정상 문맥 길이(1,048,576토큰)보다 실제 KV 캐시 용량(681,280토큰)이 작았고, 초과 요청을 안전하게 중단하지 못한 SGLang 결함이 겹쳐 발생했습니다. 추론 서비스 운영자는 설정값 대조뿐 아니라 실행 중인 캐시 용량을 직접 확인하고, 거부·메모리 할당·캐시 전송 경로까지 검증해야 합니다. 다만 Cloudflare가 제시한 수정은 자사 배포 환경과 해당 결함을 대상으로 하므로, 다른 SGLang 구성에서도 유사한 실패 경로가 모두 차단됐는지는 별도 확인이 필요합니다.
댓글
토론
> geekhaus:~$ 다음 기사 읽기
