Docker에서 cuda사용하기

1. 도커 설치하기:
   이건 많은 곳에서 잘 설명하고 있으므로 그걸 참조할 것
2. host에 nvidia-driver 설치하기:
   docker위가 아니라 host에 nvidia-driver가 설치되어있어야한다
3. 도커 이미지 받기:
   cuda는 일반적으로 docker위에 설치되지 않는다. nvidia가 제공하는 cuda가 설치된 이미지를 받아야한다. 원하는 cuda버전과 os에 따라 태그를 봐서 다운받는다. 단 base버전은 cuda를 사용만 할수있을 뿐 nvcc등이 없어서 개발이 불가능하다 꼭! devel 버전으로 받아야한다
   설치위치: https://hub.docker.com/r/nvidia/cuda/tags
4. 도커 컨테이너 생성:
   생성할 때 --gpus all 을 해줘야 그래픽카드를 사용할 수 있다. 또한 -it 옵션을 넣어줘야 원할히 커맨드창을 사용할 수 있다.
   ex) docker create --gpus all -it --name ai-docker nvidia/cuda:12.1.0-devel-ubuntu20.04

https://hub.docker.com/r/nvidia/cuda/tags

이렇게 컨테이너를 완성하고 나면 기본적으로 root 경로일텐데 이 상태에선 문제가 여럿 발생할수있으므로 유저를추가해서 사용하는 것을 권장한다. 또한 sudo 등 많은 것이 설치 되어있지 않으므로 주의 바란다.