NVIDIA cuDNN 9로 트랜스포머 가속화

Originally published at: https://developer.nvidia.com/ko-kr/blog/accelerating-transformers-with-nvidia-cudnn-9/

NVIDIA CUDA 딥 뉴럴 네트워크 라이브러리(cuDNN)는 최첨단 성능으로 딥 러닝 기본 요소를 가속화하기 위한 GPU 가속 라이브러리입니다. cuDNN은 PyTorch, TensorFlow 및 XLA(가속 선형 대수)와 같은 인기 있는 딥 러닝 프레임워크와 통합됩니다. 이러한 프레임워크는 직접 GPU 프로그래밍의 복잡성을 추상화하므로 기본 하드웨어에 신경을 쓰는 대신 모델을 설계하고 트레이닝하는 데 집중할 수 있습니다. cuDNN은 내부에서 성능 엔진 역할을…