엔비디아 베라 루빈 배포 검증 통과, 추론 성능 평가는 보류

엔비디아는 자사의 AI Cluster Runtime(AICR)이 Vera Rubin NVL72 배포를 구성하고 검증할 수 있는 버전별 쿠버네티스 레시피를 제공한다고 밝혔다. RKE2, vr200 가속기, 우분투용 레시피 제품군은 프리뷰 단계로, 지원 대상 레시피에 제공되는 프로덕션 지원과 수명주기 적격성 검증은 제공되지 않는다. 이 구성에는 R615.23 드라이버 브랜치가 필요하며, 초기 지원은 R610을, 공식 플랫폼 지원은 R620을 목표로 한다. ConnectX-9 SuperNIC과 BlueField-4 DPU를 사용하며, DOCA 3.3.0은 ConnectX-9을 지원하는 첫 정식 출시 버전이다. 엔비디아는 학습용 및 추론용 구성이 GPU Operator v26.7.0과 DRA 드라이버 v0.5.0을 사용한 배포 및 적합성 검사를 통과했다고 밝혔다. 학습용 구성은 IMEX를 통해 NVLink를 사용하는 노드 간 NCCL all-reduce에서 16 GiB 기준 744.71 GB/s의 버스 대역폭도 기록했다. 초기 검증 과정은 하드웨어 또는 패브릭 문제로 컴퓨트 트레이 하나가 NVLink 패브릭에 연결되지 못하면서 일시 중단됐다. 엔비디아는 해당 부품을 다시 장착해 문제가 해결됐으며 GPU Operator나 DRA 드라이버와는 관련이 없었다고 밝혔다. 추론 서빙 성능 검증은 CUDA 13.4 이상을 기반으로 빌드된 런타임 이미지가 공개될 때까지 보류된다. 현재 공개된 vLLM 및 ai-dynamo 이미지는 Vera Rubin의 최소 성능 기준에 대해 명시된 요구사항을 아직 충족하지 못하기 때문이다.