구글, 보안 추론용 TPU 8tx·대규모 문맥 처리용 TPU 8i Max 공개

구글이 8세대 TPU 제품군에 TPU 8tx와 TPU 8i Max를 추가해 한 해에 4종의 TPU 시스템을 선보였습니다. TPU 8tx는 사용 중인 데이터와 모델 가중치까지 하드웨어 수준에서 보호하는 기밀 추론에, TPU 8i Max는 TPU 8i보다 연산량·SRAM·HBM 대역폭을 각각 2배로 늘려 대규모 문맥 처리와 랙당 연산 밀도 향상에 초점을 맞췄습니다. 구글은 PyTorch 지원과 개방형 소프트웨어 스택을 통해 개발자와 클라우드 고객의 접근성을 높이겠다고 밝혔습니다.

민감 데이터를 옮기지 않고 미세 조정과 에이전트 실행을 한 시스템에서 수행해야 하는 규제 산업에는 TPU 8tx가 배치 구조를 단순화할 선택지가 될 수 있습니다. TPU 8i Max는 랙 공간과 전력 대비 처리량을 높이려는 운영자에게 유리할 수 있지만, 실제 도입 판단에는 가격, 공급 시점, 기존 실행 환경과의 호환성, 독립적인 성능 검증이 필요합니다. 발표 내용만으로는 이런 조건과 고객별 실측 결과가 확인되지 않습니다.