Jupyter Notebook에서 GPU 사용하기 | NVIDIA Driver, CUDA, cuDNN, PyTorch 설치 방법

PyTorch로 학습을 시키고 있었는데, 너무 느려서 GPU 환경이 간절하게 필요했다...!!!

Jupyter Notebook에서 GPU를 사용하기 위한 설치 과정을 요약하면 아래와 같다.

- NVIDIA 드라이버 설치

- Visual Studio 설치

- CUDA 설치

- cuDNN 설치

- PyTorch 설치

 

(실제로 설치한 건 2023년 10월이고, 첨부한 이미지들은 해당 글을 작성하고자 모두 2024년 2월에 새롭게 캡쳐한 내용입니다.)

(현재와는 달라진 부분이 있을 수 있다는 점 참고 부탁드립니다!)

---

1. 장치관리자에서 그래픽 카드(NVIDIA GeForce 제품) 있는지 확인

 

 

2. 있으면 https://www.nvidia.co.kr/Download/index.aspx?lang=kr 여기에서 NVIDIA 드라이버 설치

본인이 가지고 있는 NVIDIA 제품 시리즈, 제품 계열, 운영체제를 선택하면 됨

- 본인 윈도우 버전 궁금하면 윈도우+r 눌러서 winver 입력하면 볼 수 있다.

- 노트북 컴퓨터를 사용하고 있다면 괄호에 Notebooks이라고 써있는걸로 선택하기.

- 다운로드 타입은 잘 모르겠다...

반응형

 

3. 그다음 visual studio 설치

이건 https://docs.nvidia.com/cuda/cuda-installation-guide-microsoft-windows/index.html#system-requirements 에서 보면 어떤 버전이 필요한지 나와있다.

제일 최신 버전이었던 visual studio 2022이 필요한데, 이미 설치되어 있어서 이부분은 패스.

 

 

4. 그다음 CUDA Toolkit 설치

https://developer.nvidia.com/cuda-toolkit-archive 에서 본인의 환경을 고려해서 다운로드 하면 됨

- 나는 11.7 다운로드했다.

- local로 다운 받으면 한번에 다운 받는다는 뜻이라고 한다. 이걸로 해주면 된다.

 

 

5. 그다음 cuDNN 설치

https://developer.nvidia.com/rdp/cudnn-archive 에서 본인이 설치한 CUDA 버전과 호환되는 cuDNN 설치하기

- 설치 후에 압축 해제하여, 안에 들어있는 네 가지 파일(폴더 세개+파일 한개)을 CUDA가 설치된 폴더의 11.7v 폴더에 넣어주기.

- 11.7v 폴더의 경로는 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7 이다.

!!! 참고로 cuDNN 설치할 때 nvidia 회원가입 및 로그인 필요하다 !!!

 

 

6. 파이토치 설치하기

https://pytorch.org/get-started/locally/ 에서 본인의 환경에 맞춰 설치하고 싶은 PyTorch 버전을 선택하면 됨

- 나의 경우에는, 아래 사진처럼 Stable, Windows, Conda, Python, CUDA를 선택했다.

- 그럼 맨 아래 Run this command 부분에 코드가 있음. 이걸 복붙해서 Anaconda Prompt에서 실행하면 된다.

- 코드에 있는 CUDA 버전의 숫자는 본인이 설치했던 CUDA 버전으로 바꾸면 된다. 나는 CUDA를 11.7 버전을 설치했으므로, 11.7로 바꾸어줬다.

 

 

7. Jupyter Notebook에서 확인해보기

python / import torch 해서 잘 되면 torch가 잘 설치된 것임

- 그다음 torch.cuda.is_availble() 해서 True가 되면 cuda, 즉 gpu 사용할 수 있다는 뜻!

 

그런데 나는 계속 false가 나왔는데,

https://pytorch.org/get-started/previous-versions/ 여기서 내 cuda 버전인 11.7에 해당하는 코드 찾아서 그거 실행시켜서 torch 다시 설치해줬더니 드디어 True로 뜸!!!!

 

Anaconda Prompt로 jupyter lab 들어가서 코드 실행해보니까 드디어 cuda 0 이라고 출력된다.

 

학습 시켜보니까…와… CPU로 할때는 1 epoch에 1시간 40분은 걸렸는데, cuda로 하니까 13분 걸림 ㅋㅋㅋㅋ

역시 GPU가 최고다!!!