[AI 고속도로] 엔비디아, 베라 루빈 양산에 "AI 서버 경쟁판 바뀐다"

[지디넷코리아]엔비디아가 차세대 인공지능(AI) 플랫폼 '베라 루빈' 기반 시스템의 양산과 고객사 구축에 들어가면서 AI 서버 시장의 경쟁 방식도 달라지고 있다.

그래픽처리장치(GPU)와 중앙처리장치(CPU), 네트워크를 개별 서버에 조립하던 방식에서 벗어나 랙 전체를 하나의 시스템으로 공급하는 구조가 확산되면서, 서버업체의 경쟁력도 자체 설계보다 생산 자동화와 액체냉각, 현장 구축 능력으로 이동하는 분위기다.22일 블룸버그통신에 따르면 엔비디아는 베라 루빈 기반 시스템을 오픈AI와 구글 클라우드, 마이크로소프트(MS) 애저, 메타, 코어위브, 델테크놀로지스 등에 공급하고 있다.

오픈AI는 오는 3분기부터 베라 루빈을 대규모로 도입할 계획이다.베라 루빈 NVL72는 루빈 GPU와 베라 CPU, 네트워크 칩 등을 하나의 랙에 통합한 AI 컴퓨팅 시스템이다.

개별 서버를 납품한 뒤 데이터센터에서 연결하는 방식과 달리 전력과 냉각, 네트워크까지 검증된 랙 단위로 공급해 설치 기간과 장애 위험을 줄이는 데 초점을 맞췄다.서버 조립 방식도 달라졌다.

기존 제품은 GPU와 CPU, 네트워크 장비가 들어간 트레이를 작업자가 직접 케이블로 연결해 초기 생산 과정에서 조립 시간이 길고 불량률도 높았다.

반면 베라 루빈은 내부 케이블을 회로기판과 전용 연결장치로 대체해 사람이 수시간 동안 하던 작업을 로봇이 수분 만에 처리할 수 있도록 설계됐다.주요 부품에 액체냉각을 적용하면서 팬과 공기 통로가 차지하던 공간도 줄였다.

같은 면적에 더 많은 연산 장치를 배치할 수 있게 되면서 서버업체의 공급 범위도 랙 조립에서 냉각수분배장치와 배관, 전력설비까지 넓어질 것으로 보인다.이 같은 변화는 델과 슈퍼마이크로, HPE, 레노버 등 AI 서버업체의 사업 구조에도 영향을 줄 것으로 보인다.

엔비디아가 CPU와 GPU, 네트워크, 랙 구조를 표준화할수록 업체별 하드웨어 설계 차이는 줄고 생산량과 납기, 냉각 기술, 구축 서비스가 수주를 가르는 요소로 부상할 가능성이 있어서다.특히 델은 대형 클라우드 사업자와 AI 전용 데이터센터 운영업체를 대상으로 랙 공급을 늘리는 동시에 기업용 AI 인프라 구축 사업을 확대할 여지가 커졌다.

서버와 스토리지, 네트워크, 유지관리 서비스를 함께 제공할 수 있어 단순 장비 판매보다 통합 프로젝트 수주에 유리할 수 있다.슈퍼마이크로는 엔비디아 신형 GPU를 빠르게 서버 제품으로 내놓던 기존 강점에서 액체냉각과 랙 단위 구축 역량으로 경쟁 범위를 넓혀야 할 것으로 보인다.

제품 출시 속도만으로 차별화하기 어려워진 만큼 생산시설과 냉각설비, 현장 설치 능력이 실적에 미치는 영향도 커질 전망이다.폭스콘과 콴타, 위윈 등 대만 전자제품위탁생산·설계 업체에는 대량 생산 기회가 늘어날 것으로 보인다.

엔비디아의 표준 설계에 따라 동일한 랙을 반복 생산하는 구조에선 자체 서버 브랜드보다 자동화 설비와 부품 조달, 생산 수율을 갖춘 제조업체가 유리해서다.HPE와 레노버는 국가 AI 인프라와 슈퍼컴퓨터, 기업 전용 AI 데이터센터 시장에서 냉각과 운영 서비스를 앞세울 가능성이 크다.

AI 서버의 전력 밀도가 높아질수록 기존 데이터센터를 개조하고 시스템을 안정적으로 운영하는 기술의 중요성도 커질 것으로 보인다.다만 서버업체의 매출 확대가 수익성 개선으로 곧바로 이어지지는 않을 것으로 예상된다.

핵심 칩과 네트워크, 시스템 설계를 엔비디아가 공급하는 구조에서 서버업체가 가져갈 수 있는 부가가치는 제조와 구축, 유지관리 영역에 집중될 수 있기 때문이다.

또 대형 클라우드 고객을 대상으로 한 가격 경쟁이 심해지면 출하량 증가에도 마진이 제한될 가능성이 있다.경쟁사인 AMD도 분주히 움직이는 모양새다.

AMD는 차세대 GPU와 CPU, 네트워크를 통합한 AI 랙 '헬리오스'를 앞세워 현재 랙 스케일 시장 공략을 강화하고 있다.

이에 클라우드 사업자들이 엔비디아 제품과 AMD 시스템, 자체 개발 칩을 함께 운용하는 멀티벤더 전략을 확대하면 서버업체의 설계·구축 부담도 커질 가능성이 있다.이언 벅 엔비디아 부사장은 "우리는 완전한 양산 단계에 들어갔다"며 "현재 모든 주요 고객사에서 시스템(베라 루빈)을 구축하고 있다"고 말했다. ...