Originally published at: NVIDIA Vera Rubin·Blackwell, 와트당 에이전틱 AI 성능의 새로운 기준을 제시하다 - NVIDIA Technical Blog
AI 에이전트는 추론을 단일 턴 상호작용에서 여러 단계에 걸친 추론, 도구 호출, 하위 에이전트 조정, 턴 사이 다량의 컨텍스트 연결 등 다단계 워크플로우로 발전했습니다. 이러한 변화의 규모는 실제 소비량에서도 뚜렷하게 나타나는데요. 오픈라우터(OpenRouter)의 State of AI 보고서가 실제 사용 데이터 100조 토큰을 분석한 결과, 요청당 평균 프롬프트 토큰 수가 약 4배 증가했으며, 단일 에이전트 요청이 일반…