Originally published at: NVIDIA NVLink Fusion, 차세대 AI 인프라를 위한 NVHBM 도입 - NVIDIA Technical Blog
AI 팩토리는 지속적으로 거대해지는 모델과 복잡해지는 추론 워크로드를 지원해야 합니다. 폭발적으로 증가하는 AI 워크로드의 연산 수요를 충족하기 위해 하이퍼스케일러와 AI 네이티브 기업은 자체 맞춤형 AI 가속기(XPU)를 개발하고 있습니다. 이러한 가속기를 대규모로 배포하려면 연산 장치에 데이터를 원활하게 공급하는 고대역폭 메모리(HBM), 더 많은 연산 장치를 탑재할 패키지 및 실리콘 면적, 효율적인 전력 공급, 안정적인 공급망이 필수적입니다. 또한…