Cloudflare, Pingora 기반 라우팅 서비스의 consistent hashing 최적화로 전 세계 RAM 100TB 이상 추가 절감

Cloudflare는 Pingora Backend Router에서 pingora-ketama 관련 자료구조가 예상보다 많은 메모리를 사용한다는 점을 확인하고, consistent hashing 알고리즘 구현을 조정해 전 세계적으로 100TB 이상의 RAM을 회수했다고 밝혔습니다. 이는 지난달 DNS 팀이 절감한 100TB에 이어, 대규모 인프라에서 작은 최적화가 막대한 자원 절감으로 이어진 사례입니다.

이번 사례는 hyperscale 환경에서 알고리즘과 자료구조 수준의 개선이 하드웨어 증설을 대체할 수 있는 실질적 비용 절감 수단임을 보여줍니다. 특히 모든 서비스가 모든 노드에서 실행되는 구조에서는 메모리 효율성이 단순한 성능 지표를 넘어 용량 계획과 운영 경제성을 좌우하는 핵심 요소가 되고 있습니다.