하드웨어 한계를 소프트웨어 혁신으로 극복

소프트웨어가 하드웨어를 정의하는 시대로 접어들었습니다. 즈푸AI(Zhipu AI)의 CEO 탕제(Tang Jie, 唐杰)와 칭화대 연구팀이 제안한 알고리즘 논문이 AI 최상위 학회 COLM(Conference on Language Modeling)에 채택되었는데 이 논문의 의미는 학술적 성과에 그치지 않습니다. 시장은 이를 '하드웨어 한계를 소프트웨어 혁신으로 극복하는 전략적 전환점'이라 읽고 있습니다. 자체 모델을 개발 중이고 높은 GPU 비용에 시달리는 한국 AI 업계 역시 이 흐름을 주목하지 않을 수 없습니다.

탕제의 '에픽급 플러스' 예고

"즈푸는 언제 업그레이드하느냐"는 커뮤니티의 질문에 탕제 CEO는 "에픽급 플러스(epic plus)"라는 한 마디로 답변했습니다. 이는 '모델 성능의 도약'이 아니라 '서비스 경제성의 혁명'을 예고한 것이었습니다. 실제로 IndexCache는 모델의 정확도를 희생하지 않으면서 연산량을 75% 줄이고, 추론 속도를 1.8배 끌어올립니다.

다시 말해 "더 비싼 하드웨어를 사지 않고도 같은 비용으로 두 배 많은 사용자에게 서비스할 수 있다"는 현실적 약속입니다. 따라서 기업으로서는 수십억 원의 추가 GPU 도입 없이 서비스 규모를 확장할 수 있는 실질적 해법을 손에 쥐는 셈입니다.

'연산 중복 제거'가 만들어내는 경제적 가치

IndexCache의 본질은 "계층 간 인덱스 중복성(Cross-Layer Index Reuse)을 활용한 계산 생략"이라는, 단순하지만 강력한 통찰에 있습니다. 기존의 DSA(DeepSeek Sparse Attention)는 컨텍스트가 길어질수록 인덱서(Indexer)가 전체 연산의 81%를 소모하는 병목에 빠졌습니다. 그러나 IndexCache는 인접한 트랜스포머(Transformer) 계층이 선별하는 Top-K 토큰이 70~100%까지 중복된다는 사실을 포착했고, 이 반복을 걷어냄으로써 인덱서 계산량의 75%를 삭제하는 데 성공했습니다.

이 성과를 수치로 환산하면 그 파급력은 한층 명확해집니다. 인덱서 연산량은 최대 75%까지 줄어들고, 입력을 한꺼번에 처리하는 프리필(Prefill) 단계는 최대 1.82배, 토큰을 하나씩 생성하는 디코드(Decode) 단계는 최대 1.48배 빨라집니다. GLM-5를 기준으로 한 종단 간(End-to-End) 속도는 약 1.2배 향상되며, 무엇보다 100만 컨텍스트 토큰을 처리할 때의 계산량은 2.9배까지 감소합니다.

결국 이는 동일한 GPU 클러스터로 기존보다 2~3배 많은 요청을 처리할 수 있다는 뜻이자, 연간 수백억 원 규모의 클라우드 비용을 절감할 잠재력을 품고 있다는 뜻입니다. 추론 비용이 곧 서비스의 지속 가능성을 좌우하는 AI 스타트업과 대기업에 이 수치는 절대적 경쟁력을 의미합니다.

즈푸 주가 급락의 구조적 원인과 회복 신호

전체 내용보기 ...