본문으로 건너뛰기

nvidia-smi에는 CUDA 12.2로 나오는데 nvcc --version이 안 됩니다. PyTorch도 12.2를 지원하지 않습니다.

문제 설명​

nvidia-smi에서 CUDA 12.2로 표시되지만, PyTorch나 nvcc에서는 다른 결과가 나오거나 실행되지 않는 경우입니다.

원인​

nvidia-smi에 표시되는 CUDA 버전은 GPU 드라이버가 지원하는 CUDA 최대 버전입니다. 이는 **실제 CUDA Toolkit(nvcc)**이나 프레임워크가 사용하는 CUDA 버전과는 다릅니다.

해결 방법​

  1. 실제 CUDA Toolkit 버전은 아래 명령으로 확인합니다:
nvcc --version
  1. 만약 명령어가 인식되지 않는 경우, PATH를 설정합니다:
export PATH=/usr/local/cuda/bin:$PATH
nvcc --version
  1. 확인된 CUDA Toolkit 버전에 맞는 PyTorch / TensorFlow 패키지를 설치합니다.

추가 참고​

  • PyTorch는 nvidia-smi 기준이 아니라 CUDA Toolkit 기준으로 호환성을 판단합니다.

  • 예: nvidia-smi → 12.2, nvcc → 11.8 인 경우 → PyTorch cu118 사용