모레, 리사 수 앞에서 AMD GPU 기반 초고속 LLM 추론 기술 소개

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] AI(인공지능) 인프라 솔루션 기업 모레가 미국 반도체 기업 AMD의 연례 AI 행사에서 자사 분산 추론 기술을 선보였다고 24일 밝혔다.

모레는 22~23일(현지시간) 미국 샌프란시스코에서 열린 AMD의 연례 AI 행사 '어드밴싱 AI(Advancing AI) 2026'에 참가해 AMD GPU(그래픽처리장치) 기반 분산 추론 솔루션 'MoAI 추론 프레임워크'를 선보였다.

이번 행사에서 모레는 AMD MI300X GPU 32장(4노드)으로 구성한 시스템에서 자사 분산 추론 솔루션 'MoAI 추론 프레임워크'를 활용해 대규모언어모델(LLM) 'GLM-5.1'을 실시간으로 구동하는 시연을 진행했다.

관람객들은 직접 챗봇을 사용해 응답 속도와 서비스 품질을 체험했으며, 다양한 환경에서 AI가 얼마나 안정적으로 작동하는지도 확인했다....