카카오, ‘카나나-2’ 4종 개방… 폰으로 구동 가능한 경량 AI

카카오는 28일 스마트폰과 개인용컴퓨터(PC) 등 기기에서 직접 구동할 수 있는 경량 언어모델(SLM) ‘카나나-2’ 시리즈 4종을 오픈소스로 공개했다.

공개 모델은 매개변수 300억 개 규모의 기존 ‘카나나’를 경량화한 버전이다.

매개변수 수에 따라 ‘카나나 2-1.3B(13억)’와 ‘카나나 2-3B(30억)’로 나뉘며, 각 모델은 일반형(베이스)과 사용자 지시를 따르도록 학습한 인스트럭트형으로 제공된다.

카카오는 메모리 용량이 제한된 스마트폰에서도 구동할 수 있도록 경량화했지만 글로벌 수준의 성능을 구현했다고 강조한다.

자체 개발한 한국어 특화 토크나이저(단어 분리 기술)를 적용해 연산 속도를 높이고 텍스트 처리 효율을 기존보다 30% 이상 개선했다는 것.

이에 따라 약 2만4000단어에 이르는 장문 대화에서도 기존 방식보다 메모리 사용량을 최대 72.7% 줄일 수 있었다고 카카오는 설명했다.

카카오는 상업적 이용도 허용해 누구나 모델을 무료로 활용할 수 있도록 했다.

거대 ...