파이토치 GPU 설치 Windows

윈도우 환경에서 GPU 가속을 사용하려면 CUDA(Compute Unified Device Architecture)가 필요하다. CUDA란 NVIDIA에서 제공하는 소프트웨어로 GPGPU(General-Purpose computing on Graphics Processing Units) 기술을 지원하는 프로그램이다.

 

CUDA를 지원하는 그래픽 카드의 사양은 다음 경로에서 확인할 수 있다.

 

• GPU Compute Capability: https://developer.nvidia.com/cuda-gpus#compute

 

 

CUDA 환경을 구성할 수 있틑 시스템이라면 현재 사용하고 있는 GPU의 드라이버를 최신 버전으로 업데이트한다. NVIDIA 그래픽 카드 드라이버는 다음 경로에서 업데이트할 수 있다.

 

• NVIDIA Driver Downloads: https://www.nvidia.com/Download/index.aspx

 

 

그 다음엔 CUDA Toolkit을 설치한다. 이를 설치하기 전에, 파이토치 GPU에서 지원하는 CUDA Toolkit 버전을 확인해야 한다. https://pytorch.org/get-started/locally/

 

 

다음 경로로 가서 CUDA 11.8.x를 설치한다.

 

• CUDA Toolkit: https://developer.nvidia.com/cuda-toolkit-archive

 

CUDA Toolkit까지 설치가 완료됐다면 NVIDIA CUDA 심층 신경망 라이브러리(cuDNN)를 설치한다. 다운로드할 때 회원 가입이 필요하다. CUDA 버전과 호환되는 압축 파일을 다운로드해 NVIDIA GPU Computing Toolkit이 설치된 경로로 파일을 덮어씌운다.

 

cuDNN: https://developer.nvidia.com/rdp/cudnn-archive

 

 

압축을 해제하면 다음과 같은 파일들이 보일 것이다. 

 

bin, include, lib 각각 내부에 있는 파일들을 

 

 

각각에 매칭되는 폴더안에 덮어씌우면 된다.

 

그럼 다음 윈도우 명령 프롬프트를 열어 다음과 같은 커맨드를 실행한다.

"%PATH%;C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin"
"%PATH%;C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\extras\CUPTI\libx64"
"%PATH%;C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\include"

 

정상적으로 경로가 등록됐다면 path를 입력해 등록된 경로를 확인할 수 있다.

 

 

이제 VS를 열어 터미널에 다음과 같은 명령어를 실행한다.

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

 

 

설치가 완료되면 파이썬 스크립트 파일을 하나 생성해 cuda 여부를 확인한다.