Run:ai 전체 설치가 필요할까? GPU 관리 기능별 도입 선택

스케줄러만 필요하다면 전체를 설치할 필요는 없다

NVIDIA는 10월 13일 Run:ai 전체 플랫폼의 오픈소스 공개를 발표했다. Kubernetes에서 여러 팀의 AI 작업과 GPU 자원을 관리하는 소프트웨어다. 통합 플랫폼을 도입하거나 필요한 구성 요소만 기존 환경에 연결할 수 있다.

공개 저장소에는 관리 서비스를 모은 컨트롤 플레인, 각 Kubernetes 클러스터에서 동작하는 서비스, 설치 도구와 CLI 등이 들어 있다. 컨트롤 플레인은 여러 클러스터의 자원·정책·작업을 중앙에서 관리하고, 클러스터 서비스는 작업 배치와 실행 관리를 담당한다.

따라서 이번 공개의 범위는 GPU 배치 엔진 하나보다 넓다. 이미 자체 관리 화면과 운영 체계를 갖춘 팀이라면, 그 전체를 바꾸기보다 부족한 기능에 해당하는 모듈부터 검토할 수 있다.

배치 결정과 메모리 제한은 서로 다른 역할이다

네 구성 요소는 이름만 다른 설치 옵션이 아니다. GPU를 어느 작업에 줄지, 할당량을 어떻게 제한할지, 조직과 작업 구조를 어떻게 표현할지를 나눠 맡는다.

예를 들어 PyTorchJob과 RayCluster는 작업 구성이 다르다. Workload Map은 각 유형에서 파드 구성이나 복제본 수, 상태가 어디에 있는지 기술해 도구가 이를 읽도록 돕는다. 실제 스케줄링을 담당하는 구성 요소와 구분해야 한다.

소스 공개와 설치 가능한 릴리스는 별개다

GPU Fractioning Operator는 드라이버가 각 작업의 GPU 메모리 상한을 강제하도록 연결한다. 저장소의 전제조건에는 Kubernetes 1.28 이상, NRI를 활성화한 containerd 2.0 이상 또는 NRI 지원 CRI-O, CUDA 13.4에 해당하는 r615 이상 드라이버 등이 명시돼 있다.

드라이버 조건을 자동으로 충족한다고 가정해서는 안 된다. README는 GPU Operator v26.7.1이 기본으로 r615를 설치하지 않으며 별도 선택이 필요하다고 설명한다. 메모리 상한 강제라는 기능을 물리적으로 GPU를 나눠 쓰는 것과 같은 모든 격리·성능 보장으로 확대해서도 안 된다.

조직별 할당 계층의 배포 상태도 다르다. 10월 26일 기준 KAI Resource Management README는 아직 공개 릴리스가 없다고 명시한다. 현재는 차트 소스를 패키징하고 호환되는 컨트롤러 이미지를 준비해야 한다. 통합 플랫폼이 공개됐다는 발표만 보고 모든 개별 모듈에 같은 설치 편의성이 있다고 판단할 수는 없다.

Community 이용과 기업 지원 계약을 구분해야 한다

NVIDIA의 공개 발표에 따르면 NGC Community Product에는 유료 Run:ai 구독이나 지원 자격이 필요하지 않지만, NVIDIA 기업 지원도 포함되지 않는다. NGC 다운로드에는 해당 소프트웨어 약관이 적용되며 소스 코드는 각 오픈소스 라이선스를 따른다.

저장소 지원 정책은 사용 질문과 설계 논의는 GitHub Discussions, 버그·기능 요청은 Issues로 안내한다. 이는 기업 지원 계약과 다른 이용 경로다. 현재 NGC Self-Hosted 카탈로그에는 구독이 필요한 상품 안내도 있으므로 Community와 상용 상품을 구분해 선택해야 한다.

도입의 첫 질문은 필요한 기능을 어느 구성 요소가 제공하느냐다. 그다음 릴리스 상태, 드라이버와 런타임 조건, 장애 때 이용할 지원 경로까지 맞춰야 전체 플랫폼 도입과 부분 도입 중 하나를 선택할 수 있다.

자주 묻는 질문