Google은 대규모 생성 AI 모델 교육용으로 설계된 6세대 Tensor Processing Unit(TPU)인 Trillium을 발표했습니다. 이전 세대 Cloud TPU v5p와 비교하여 Trillium은 최대 1.8배 향상된 달러당 성능과 99%의 놀라운 확장 효율성을 제공합니다. Google은 추가 컴퓨팅 리소스가 교육 프로세스를 완료할 때까지 얼마나 효과적으로 가속화하는지 측정하는 수렴 확장 효율성 개선에 중점을 두었습니다. 벤치마크 결과는 Trillium이 Cloud TPU v5p에 필적하는 수렴 확장 효율성을 더 낮은 비용으로 달성함을 보여줍니다. Trillium은 생성 AI 모델 교육을 위한 비용 효율적인 솔루션을 제공하여 조직이 더 강력하고 효율적인 모델을 개발할 수 있도록 지원합니다.
Trillium으로 LLM 교육 효율성 향상 - 성능 분석
Google Cloud