美 세레브라스, 첫 협업사로 업스테이지 선택··· ‘다음에서 만나요’

미국의 AI 반도체 기업 세레브라스(Cerebras)가 7월 11일, 업스테이지와의 협력 방안을 발표했다.

세레브라스는 2015년 설립된 미국의 AI 가속기 스타트업으로 300mm 웨이퍼 한 장을 절단하지 않고 그대로 사용하는 WSE 칩을 핵심으로 내세운다.

최신형인 WSE-3는 칩 하나에 4조 개의 트랜지스터와 90만 개의 AI 코어를 탑재하며 44GB의 온칩 SRAM를 탑재해 최고 성능의 대형언어모델(LLM) 서빙 성능을 갖췄다고 평가받는다.이번 협력을 통해 업스테이지의 솔라 31B 모델이 세레브라스의 WSE에서 구동되며 초당 최대 2000개의 토큰을 처리하게 된다.

특히 연구실, 개발 단계를 넘어 업스테이지가 서비스하는 ‘다음’ 포털사이트의 AI 요약에 세레브라스의 하드웨어가 활용된다.

일반 사용자가 활용할 수 있는 상용 서비스에 세레브라스의 AI 가속기가 활용된다는 말이다.외국계 기업인 세레브라스가 한국 기업에 즉시 추론 서비스를 제공할 수 있는 배경으로는 상용 서비스인 ...