PyTorch 2.15, MPS에 FP8 지원…애플 실리콘서 MoE 추론 최대 6.5배 향상

PyTorch 2.15는 MPS에 FP8 텐서와 전용 Metal 연산 경로를 추가하고, 선형 계층·소프트맥스·MoE 디코딩을 최적화합니다. M3 Ultra에서 Qwen3.6-35B-A3B는 초당 9.4토큰에서 61.3토큰으로 빨라졌으며, Wan2.2 비디오 VAE 디코딩의 메모리 사용량은 최대 270GiB에서 약 8GiB로 줄었다고 개발팀은 밝혔습니다. 사용 조건은 macOS 15 이상, Python 3.11 이상입니다.

로컬 LLM 추론과 비디오 생성에서 메모리·처리량 부담이 컸던 개발자는 2.15를 시험해 볼 근거가 있습니다. 다만 제시된 속도는 M3 Ultra와 특정 모델·실행 조건의 결과이므로, 다른 맥 제품군과 작업에서도 같은 개선이 나타나는지는 자체 측정이 필요하며 macOS 최소 버전 요건도 업그레이드 판단에 반영해야 합니다.