Originally published at: https://developer.nvidia.com/ko-kr/blog/nvidia-rubin-cpx-accelerates-inference-performance-and-efficiency-for-1m-token-context-workloads/
AI에서 추론은 이제 가장 복잡한 과제에 당면한 영역이 되었습니다. 최신 모델은 에이전틱 AI로 진화하며, 다단계 추론과 지속적인 메모리, 장기 컨텍스트를 다룰 수 있게 되었습니다. 그 결과 소프트웨어 개발, 영상 생성, 심층 연구 등 다양한 분야에서 이전보다 훨씬 복잡한 문제를 풀어낼 수 있습니다. 그러나 이러한 워크로드는 기존 인프라가 감당하기 어려운 수준의 컴퓨팅, 메모리, 네트워킹 부담을 동반합니다.…