Originally published at: NVIDIA Vera Rubin 플랫폼이 에이전틱 AI의 스케일업 과제를 해결하는 방식 - NVIDIA Technical Blog
에이전틱 추론은 비결정적 궤적—AI 에이전트가 과제를 수행하며 생성하는 행동, 관찰, 의사 결정—을 추론 워크로드에 도입하여 런타임 동작 방식을 근본적으로 변화시켰습니다. 단일 세션에서 발생하는 수백 건의 추론 요청 전반에 걸쳐 이러한 궤적이 누적되면 엔드 투 엔드 지연이 비례하여 증가합니다. NVIDIA Vera Rubin NVL72는 NVIDIA Vera Rubin 플랫폼의 핵심 컴퓨트 엔진으로서 이러한 추론 부하의 대부분을 전담합니다. 신흥…