Originally published at: NVIDIA Groq 3 LPX가 NVIDIA Vera Rubin에서 긴 컨텍스트의 초고속 인터랙티비티를 구현하는 방법 - NVIDIA Technical Blog
NVIDIA Groq 3 LPX는 NVIDIA Vera Rubin 플랫폼을 위한 인터랙티브 AI 추론 가속기입니다. 이 플랫폼의 핵심인 NVIDIA Vera Rubin NVL72는 소형부터 대형까지, 오픈 소스부터 클로즈드 모델까지 폭넓은 AI 워크로드에서 높은 처리량과 뛰어난 인터랙티비티를 제공하는 역대 가장 다재다능한 머신입니다. Groq 3 LPX는 Vera Rubin NVL72와 결합해 최고 수준의 인터랙티비티가 요구되는 서빙 티어까지 플랫폼의 처리 범위를 넓히고,…