AI 팩토리의 확장성을 높이는 공동 패키징 광학 기술로 전력 효율성 향상

Originally published at: AI 팩토리의 확장성을 높이는 공동 패키징 광학 기술로 전력 효율성 향상 - NVIDIA Technical Blog

인공지능이 컴퓨팅 환경을 재편하면서 네트워크는 이제 미래 데이터센터를 형성하는 핵심적 기반으로 자리 잡았습니다. 거대 언어 모델(LLM)의 학습 성능은 단순히 연산 자원에 의해서만 결정되지 않는데요. 네트워크의 속도, 용량, 그리고 지능적인 운영 능력도 성능에 큰 영향을 미칩니다. 업계는 CPU 중심의 전통적인 인프라를 넘어서, GPU와 네트워크가 긴밀히 연결된 AI 팩토리로 빠르게 전환하고 있습니다. NVIDIA는 현대적인 AI 학습과 추론이…