210504 NVIDIA CUDA installation

1. 먼저 nvidia-smi 와 nvcc -V를 해서 둘다 어떤 output도 나오지 않는 클린한 상태를 만들자. 

sudo dpkg -l | grep nvidia
sudo dpkg -l | grep cuda

위 명령어로 잔여 프로그램이 남아있는지를 확인할 수 있고,
지울땐 여러가지 방법이 있지만 밑과 같이 지울 수 있다. <> 괄호 안을 자유자재로 바꿔서 원하는걸 삭제하면 된다.
혹시라도 cuda repository가 남아있는지를 확인하기 위해서 폴더 안으로도 가서 확인하는게 좋다.

sudo apt-get remove --purge <libnvidia-*> 
sudo rm -rf /usr/local/cuda*

https://settembre.tistory.com/447

다 지웠으면 nvidia driver 부터 설치한다. (nvidia-smi)를 위해서

여러가지 방법이 있지만, 나는 밑의 명령어로 어떤 버전 설치 가능한지 확인후에 대강 적절히 높은 숫자 정해서 설치하는 것을 선호한다.

sudo ubuntu-drivers devices
sudo apt-get install nvidia-driver-515

https://goodtogreate.tistory.com/entry/%EC%97%94%EB%B9%84%EB%94%94%EC%95%84NVIDIA-%EA%B7%B8%EB%9E%98%ED%94%BD-%EB%93%9C%EB%9D%BC%EC%9D%B4%EB%B2%84-%EC%9E%AC%EC%84%A4%EC%B9%98-%EB%B0%8F-%EC%97%85%EA%B7%B8%EB%A0%88%EC%9D%B4%EB%93%9C

그런다음에 컴퓨터를 껐다 켜야 nvidia-smi가 잘 작동한다.

nvcc -V를 위해서는 cuda-toolkit을 설치해야하는데, 기본으로 우분투 추천 명령어를 써도 무방하다. - 근데 그러면 가장 최신버전이 설치되므로, 원하는 버전이 있으면 cuda toolkit 버전 검색해서 깔면 된다. - pytorch나 어떤 라이브러리 쓰려면 거기에 적합한걸 설치하면 좋은데, 보통 그럴경우 최신보다는 좀 전의 버전을 깔아야한다.

sudo apt install nvidia-cuda-toolkit

https://linuxconfig.org/how-to-install-cuda-on-ubuntu-20-04-focal-fossa-linux

그런다음에 .bashrc에 path 설정해주면 완료!
official 사이트에서는 run 파일보다 deb 파일 설치를 더 추천한다고 한다! deb 파일이 더 specific 한거여서, 가능하다면 그걸 설치하라고.. 

vim ~/.bashrc
export LD_LIBRARY_PATH=/usr/local/cuda-12.0/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
export PATH=/usr/local/cuda-12.0/bin${PATH:+:${PATH}}

https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html#post-installation-actions

forums.developer.nvidia.com/t/nvidia-driver-and-cuda-installation-sequence/60456