퍼플렉시티 CEO "AI 경쟁, 모델 크기에서 운영 효율성으로"

[지디넷코리아]아라빈드 스리니바스 퍼플렉시티 CEO가 인공지능(AI) 시장 승부처가 바뀌고 있다고 진단했다.오픈AI와 구글, 앤트로픽이 초거대 모델 개발 경쟁을 이어가고 있지만 실제 현장에서는 최고 성능 모델 하나를 쓰기보다 작업별로 가장 적합한 모델을 조합해 비용과 성능을 최적화하는 방식이 새로운 경쟁력으로 떠오르고 있다는 분석이다.스리니바스 CEO는 12일 CNBC와의 인터뷰에서 "이제 AI 경쟁은 모델 자체보다 이를 어떻게 활용하느냐에 달려 있다"고 말했다.고객 응대나 내부 업무 자동화는 상대적으로 저렴한 모델이 처리하고 복잡한 코딩이나 추론 작업에만 고성능 모델을 투입하는 방식이 확산하면서 AI 시장의 경쟁 기준도 단순한 모델 성능에서 운영 효율성으로 옮겨가고 있다는 설명이다.그는 "AI 도입 과정에서 정답은 해당 작업에 가장 적합한 모델을 사용하는 것"이라고 강조했다.

업무별로 요구되는 성능과 감당 가능한 비용이 다른 만큼 하나의 모델로 모든 작업을 처리하기보다 분야별로 적합한 AI를 골라 써야 한다는 취지다.단순 고객 문의는 저비용 모델이 처리하고, 복잡한 프로그래밍 업무는 고성능 모델이 담당하는 식이다.

사내 업무 자동화 역시 대부분은 경량 모델로 수행하고, 난도가 높은 단계에서만 상위 모델을 호출하는 구조가 가능해졌다.최고 성능의 단일 모델로 모든 요청을 처리하기보다 업무 특성에 따라 적합한 모델을 선택하는 것이 비용과 성능 측면에서 더 합리적이라는 게 스리니바스 CEO의 판단이다.이 같은 변화는 기업들의 AI 투자 전략과도 맞물려 있다.

생성형 AI 활용이 늘면서 인프라 구축과 토큰 사용 비용 부담이 커지자 최고 성능 모델을 일괄 적용하기보다 업무 목적에 맞는 모델을 선택해 운영 효율성을 높이려는 수요가 커지고 있어서다.

이에 따라 AI 서비스의 경쟁력도 모델 자체보다 여러 모델과 도구를 연결해 최적의 결과를 만들어내는 이른바 '오케스트레이션' 역량으로 이동하고 있다는 분석이다.이 같은 흐름은 퍼플렉시티의 제품 전략에서도 드러난다.

최근 컴퓨터 사용 기능을 갖춘 AI 제품에 중국 AI 기업 지푸AI(Z.ai)의 오픈모델 'GLM 5.2'를 활용한 구조를 시험하고 있다.

상대적으로 저렴한 모델이 대부분의 작업을 처리하고, 더 높은 수준의 추론이 필요한 경우에만 고성능 모델을 호출하는 방식이다.이는 AI 시장 전반에서 단일 초거대 모델 의존 대신 여러 모델을 조합해 활용하는 전략이 확산하고 있음을 보여주는 사례로 해석된다.특히 기업이 직접 내려받아 수정·운영할 수 있는 오픈웨이트(Open-weight) 모델의 성능이 빠르게 향상되면서 이러한 변화에 힘을 보태고 있다.

자체 인프라에서 운영할 수 있는 만큼 비용 절감은 물론 데이터 통제와 운영 유연성 측면에서도 강점이 있다는 평가다.벤처캐피털 벤치마크의 피터 펜턴 제너럴 파트너는 이러한 변화가 예상보다 빠르게 진행될 수 있다고 전망했다.

그는 오픈모델 확산이 단순한 비용 절감 차원을 넘어 AI 산업 구조 자체를 바꿀 수 있다고 분석했다.

특정 업무에 최적화된 소형 모델이 범용 대형 모델보다 더 빠르고 우수한 성능을 보이는 사례가 늘고 있다는 것이다.펜턴은 "향후 18~24개월 동안 생성되는 AI 토큰의 90% 이상이 오픈웨이트 모델에서 나올 수 있으며, 경우에 따라 올해 말에도 가능할 수 있다"고 전망했다.

이어 "충분한 성능을 갖춘 오픈웨이트 모델이 확산되면 프론티어 AI 기업들의 추론 서비스 수익성은 압박을 받을 수밖에 없다"고 분석했다. ...