AMD는 질문 읽고 세레브라스는 답 쓴다…AI 추론도 '분업'

[서울=뉴시스]박영환 기자 = 미국 반도체 기업 AMD와 AI 반도체 기업 세레브라스가 인공지능(AI)이 이용자의 질문을 받아 답변을 만드는 ‘추론’ 과정을 양사 시스템에 나눠 맡기기로 했다. AMD 시스템이 질문과 긴 대화·문서의 맥락을 처리하고 세레브라스 시스템이 답변 생성을 담당한다. 두 회사는 이를 통해 AI 서비스의 응답 속도와 전력 효율을 높이겠다는 구상이다.

23일(현지시간) 미국 인터넷매체 액시오스에 따르면 세레브라스는 GPU·CPU·네트워크 장비를 랙 단위로 묶은 AMD의 AI 시스템 ‘헬리오스’를 자사 데이터센터에 설치할 계획이다. 두 회사 시스템을 결합한 AI 추론 서비스는 올해 하반기 세레브라스 클라우드에서 제공될 예정이다.

양사가 나눠 맡기는 AI 추론은 모델을 새로 학습시키는 과정과 다르다. 학습을 마친 모델이 이용자의 입력을 받아 답변을 내놓는 단계로, AI 서비스의 응답 속도와 운영비용에 큰 영향을 준다.

이 가운데 헬리오스는 이용자의 질문과 긴 대화·문서의 맥락을 처리한다. 반도체 웨이퍼 한 장을 통째로 활용한 초대형 AI 프로세서인 세레브라스의 웨이퍼스케일엔진(WSE)은 답변을 구성하는 데이터 단위인 ‘토큰’을 차례로 만들어낸다.

AMD와 세레브라스는 공동 발표에서 결합 시스템의 와트당 토큰 처리량이 세레브라스 WSE만으로 구성한 시스템의 최대 5배에 이를 수 있다고 추산했다. 다만 이는 두 회사가 특정 AI 모델과 조건을 적용해 자체적으로 계산한 결과로, 실제 시스템 구성과 이용 환경에 따라 달라질 수 있다.

리사 수 AMD 최고경영자(CEO)는 기자들과의 브리핑에서 “앞으로 AI 작업을 단계별로 나눠 처리하는 사례가 더 늘어날 것”이라고 말했다.

AMD가 AI 추론 기술 협력과 대형 고객 확보를 동시에 확대하는 가운데, 이번 세레브라스 협력은 AI 기업 앤트로픽과 대규모 공급·투자 계약을 발표한 이튿날 공개됐다. 앤트로픽은 전력 용량 기준 최대 2GW 규모로 AMD 인스팅트 MI450 계열 GPU를 탑재한 헬리오스 시스템을 배치할 계획이다. 첫 1GW 규모의 배치는 2027년 상반기에 시작될 예정이다. AMD는 앤트로픽에 지분투자 방식으로 최대 50억달러(약 7조4000억원)를 투입하기로 했다.

AMD가 이처럼 고객과 협력사를 잇달아 늘리는 가운데, 수 CEO는 AI 확산으로 AMD가 사업 대상으로 삼을 수 있는 컴퓨팅 시장이 2030년 약 2조달러(약 2950조원)로 커질 것으로 전망했다. 이 시장에는 데이터센터 서버와 PC뿐 아니라 차량·산업장비 등에 들어가는 반도체도 포함된다. 2조달러는 AMD의 매출 전망이 아니라 회사가 진출할 수 있다고 보는 전체 잠재 시장 규모라고 액시오스는 설명했다.

◎공감언론 뉴시스 yunghp@newsis.com ...