LLM, 추천 시스템 및 GNN을 위한 하나의 거대한 슈퍼칩: NVIDIA GH200 NVL32

Originally published at: LLM, 추천 시스템 및 GNN을 위한 하나의 거대한 슈퍼칩: NVIDIA GH200 NVL32 - NVIDIA Technical Blog

AWS re:Invent 2023에서 AWS와 NVIDIA는 AWS가 클라우드 제공업체 중 최초로 NVIDIA DGX 클라우드를 통해 NVIDIA NVLink 기술과 상호 연결되고 Amazon Elastic Compute Cloud(Amazon EC2)에서 실행되는 NVIDIA GH200 Grace Hopper 슈퍼칩을 제공하게 될 것이라고 발표했습니다. 이는 클라우드 컴퓨팅의 판도를 바꾸는 기술입니다. NVIDIA DGX 클라우드 또는 Amazon 인스턴스 내의 랙 스케일 솔루션인 NVIDIA GH200 NVL32는 32-GPU NVIDIA…