설치 수월해진 엔비디아 '베라 루빈', 클라우드 업계 초기 호평

엔비디아의 차세대 AI 서버 플랫폼 '베라 루빈(Vera Rubin)'이 주요 클라우드 사업자들로부터 초기 호평을 받고 있다. 지난해 '그레이스 블랙웰(Grace Blackwell)' 서버 도입 당시 겪었던 설치와 운영상의 어려움이 상당 부분 개선됐다는 평가가 나오면서 대규모 AI 인프라 구축이 수월해질 것이라는 기대가 커지고 있다. 27일(현지시간) 디 인포메이션에 따르면, 엔비디아 AI 서버를 구매하는 여러 클라우드 서비스 제공업체 임원들은 초기 테스트 결과 베라 루빈 랙이 그레이스 블랙웰 랙보다 훨씬 쉽게 구축될 것으로 예상된다고 밝혔다. 한 클라우드 기업 임원은 "기계적 구조와 냉각 설계 측면에서 이미 3세대 제품 수준에 이르렀기 때문에 대규모 설치도 아주 어렵지 않을 것"이라고 평가했다. 그레이스 블랙웰은 지난해 출시 당시 새로운 GPU와 CPU, 네트워크, 냉각 시스템이 동시에 적용되면서 주요 고객들이 서버 설치와 안정화 과정에서 상당한 어려움을 겪었다. 이로 인해 AI 데이터센터 가동이 지연되고 수익 창출 시점도 늦어지는 문제가 발생한 바 있다. 현재 공급이 시작된 베라 루빈 초기 제품은 72개의 GPU와 36개의 CPU로 구성된 랙으로, 그레이스 블랙웰과 거의 동일한 구조를 채택했다. 완전히 새로운 설계가 아니라 기존 플랫폼을 발전시킨 형태인 만큼, 고객들이 안정적으로 도입할 수 있다는 설명이다. 소프트웨어 호환성도 개선됐다. 엔비디아는 기존 그레이스 블랙웰용 소프트웨어를 대부분 그대로 활용할 수 있도록 설계했으며, 클라우드 업체들은 대규모 클러스터 운영을 위한 소프트웨어 최적화에 수개월 정도면 충분할 것으로 보고 있다. 엔비디아는 베라 루빈이 AI 토큰 처리 효율(초당 토큰당 전력 기준)에서 그레이스 블랙웰 대비 약 10배 높은 성능을 제공한다고 설명하고 있다. 이에 따라 서버 가격은 초기 블랙웰 시스템보다 두 배 이상 높지만, 전력 효율과 운영 비용 측면에서는 경쟁력이 있다는 평가가 나온다. 앤드루 벨 엔비디아 하드웨어 부문 수석 부사장은 "블랙웰은 GPU 시스템을 완전히 새롭게 설계하면서 모든 것을 바꿔 고객들에게 큰 부담을 줬지만, 베라 루빈은 훨씬 제조와 구축이 쉬운 플랫폼"이라며 생산성도 크게 향상했다고 설명했다. 다만 모든 문제가 해결된 것은 아니다. 베라 루빈 랙은 130만개의 부품으로 구성돼 초기 블랙웰의 120만개보다 더 복잡해졌으며, 새로운 네트워크 스위치와 칩 간 연결 기술도 적용됐다. 이 때문에 대규모 시스템에서 장애가 발생하면 원인을 추적하는 작업이 여전히 쉽지 않을 것으로 업계는 보고 있다. 전력과 냉각도 중요한 과제다. 베라 루빈 랙은 블랙웰보다 랙당 전력 소비가 75% 증가했으며 발열도 더 높다. 냉각 시스템 자체는 이전보다 전력 효율이 향상됐지만 설치 과정은 오히려 더 복잡해졌다는 평가다. 일부 전문가는 이러한 열 설계 문제로 초기 생산 일정이 두 달가량 지연됐다고 분석하기도 했다. 데이터센터 인프라도 새롭게 구축해야 한다. 기존 시설을 개조하는 것보다 엔비디아 권장 설계에 맞춘 신규 데이터센터를 건설하는 것이 효율적이라는 분석이 나오면서 케이블 배선과 전력 설비, 관리 소프트웨어 등을 포함한 대규모 투자가 병행되고 있다. 업계는 내년 출시 예정인 '베라 루빈 울트라(Vera Rubin Ultra)'가 또 다른 시험대가 될 것으로 보고 있다. 울트라는 최대 576개의 GPU를 하나의 시스템으로 연결하며, 기존보다 약 3배 많은 전력을 필요로 한다. 또 서버 트레이를 수직으로 배치하는 새로운 랙 구조가 적용돼 설치 난도가 다시 높아질 가능성도 제기된다. 이 때문에 일부 클라우드 업체들은 울트라 모델에서는 블랙웰 출시 당시와 비슷한 수준의 구축 난관이 다시 나타날 가능성도 있다는 신중한 입장을 보였다. 박찬 기자 cpark@aitimes.com