AI 모델을 설계한 자가 칩을 설계한다

추론의 시대, AI 경쟁의 무대는 '모델'에서 '모델·칩·데이터센터'의 전체 스택(Full Stack)으로 이동 중입니다. AI 경쟁은 이제 '누가 더 좋은 모델을 만드느냐'에서 '누가 모델에 맞는 하드웨어까지 잘 만드는가'로 전환하고 있습니다. 2026년 7월 7일 중국을 대표하는 두 모델 기업 DeepSeek과 즈푸(Zhipu)가 자체 칩 개발에 나섰다는 사실이 나란히 보도됐습니다. 이는 훈련의 시대가 저물고 추론의 시대가 도래했고 모델을 설계한 자가 칩까지 설계할 수밖에 없음을 시사합니다.

ASIC, 범용의 시대가 저물고 전용의 시대가 열린다.

우선 첫번째 통념 'AI 칩이라면 엔비디아 GPU'라는 등식이 해체됩니다. ASIC(Application-Specific Integrated Circuit, 주문형 반도체)은 특정 용도에 최적화된 집적회로입니다. 범용 CPU·GPU가 다양한 작업을 처리하는 반면 ASIC은 단 하나의 작업만 수행하도록 설계됩니다. AI 영역의 대표 사례가 구글의 TPU(Tensor Processing Unit)입니다.

AI 칩은 훈련용과 추론용으로 나뉩니다. 훈련(Training)은 대규모 데이터로 모델을 학습시키는 과정으로 한 번의 대규모 투자로 끝납니다. 추론(Inference)은 학습된 모델이 사용자 질문에 실시간으로 답을 생성하는 과정으로 에이전트 시대로 들어가면서 사용자가 늘수록 비용이 멈추지 않고 누적됩니다.

여기서 GPU의 한계가 드러납니다. 엔비디아 GPU는 스위스 군용 칼(Swiss Army Knife)처럼 모든 작업을 처리하지만 추론만 장기간 수행할 때는 쓰지 않는 회로까지 가동해 전력 효율이 낮습니다. 실제 이용률은 30~40%에 불과합니다. 반면 ASIC은 추론에 필요한 계산만 하도록 설계되어 범용 GPU 대비 단위 추론당 비용을 30~50% 절감할 수 있습니다. 딜로이트(Deloitte)는 2026년 세계 AI 추론 칩 시장이 500억 달러(약 76조 원)를 돌파할 것으로 전망했습니다.

구글은 TPU를 8세대까지 개량을 거듭하며, 훈련용 TPU 8t와 추론용 TPU 8i를 별도 제품군으로 분리했습니다. 추론용 칩은 역전파(Backpropagation)나 경사 하강(Gradient Descent)이 필요 없고 오직 순전파(Forward Propagation)만 수행하면 됩니다. 전용화의 논리는 구조적입니다.

DeepSeek과 즈푸 — 모델의 폭증이 칩의 필요를 낳다

DeepSeek의 하드웨어 프로젝트는 약 1년 전 비밀리에 시작됐습니다. 이미 칩 설계사, 파운드리, 메모리 공급업체와 접촉을 시작했고, 칩 설계 엔지니어를 공개 채용 없이 비공개로 영입해 왔습니다. 배경에는 자금이 있습니다.

DeepSeek은 2026년 6월 첫 외부 투자 유치에 성공했고, 규모는 510억 위안(약 74억 달러, 원화로 약 11조 4천억 원)입니다. 자금 사용처에 '자체 AI 칩 개발'이 명시돼 있습니다. 창업자 량원펑(梁文锋) 개인도 약 200억 위안(약 4조 4900억 원)을 투자했습니다. 기업 가치는 520억~590억 달러(약 79조~90조 원)로 평가받습니다.

즈푸도 자체 맞춤형 AI 칩 개발을 검토 중이라는 보도입니다. 즈푸는 여러 중국 국내 칩 설계사와 초기 협의를 진행하고 있습니다. 직접적 계기는 GLM-5.2의 폭발적 성장입니다. 모델 출시 후 일일 토큰 사용량이 단 일주일 만에 27배 급증했습니다.

즈푸는 미국 Entity List에 등재돼 엔비디아 첨단 칩을 구할 수 없고 화웨이 어센드(Ascend)로 전환 중이나 공급이 불안정합니다. 그래서 즈푸는 처음부터 직접 설계하는 대신, 구글 TPU나 오픈AI 방식과 유사한 '맞춤형 설계(Customization)' 경로를 택했습니다. 자사 모델에 최적화된 전용 가속 칩을 전문 설계사와 공동 개발하는 방식입니다.

중국 국내 IT 매체도 이 흐름을 놓치지 않았습니다. 36Kr를 비롯해 넷이지(NetEase), 봉황네트워크 (ifeng), 소후(Sohu) 등 주요 매체가 잇따라 보도하며 이를 오픈AI(자체 추론 칩 할라피뇨)와 앤트로픽 까지 칩을 만드는 글로벌 흐름의 연장선으로 짚었습니다.

SMIC라는 단일 관문, 설계가 아니라 생산이 승부를 가른다

여기서 두 번째 통념을 해체하겠습니다. '칩은 잘 설계하면 되는 것'이라는 생각입니다. 중국에서는 그렇지 않습니다. 설계보다 생산이 병목입니다.

전체 내용보기 ...