Originally published at: SWE-Serve가 밝혀낸 로컬 테스트와 실제 서버 제공 간의 격차 - NVIDIA Technical Blog
AI 코딩 에이전트가 작성한 패치가 단위 테스트를 통과하더라도, 실제 모델을 로드해 요청을 처리하는 서버 실행 단계에서는 오작동을 일으킬 수 있습니다. 따라서 추론 서빙 소프트웨어의 수정 사항을 제대로 평가하려면 퍼블릭 인터페이스를 통해 올바른 결과가 반환되는지를 포함해, 전체 서빙 경로를 엔드투엔드로 통합 검증해야 합니다. SGLang 팀과의 협력으로 개발된 SWE-Serve는 대형 언어 모델(LLM) 서빙 오픈소스인 SGLang의 실제 커밋…