딥시크 가격 75% 내려도 기업 부담 여전…"AI 에이전트 토큰 폭증"

[지디넷코리아]딥시크의 대폭적인 모델 가격 인하에도 기업용 인공지능(AI) 업계 수익성 문제가 해소되지 않을 수 있다는 분석이 나왔다.

AI 에이전트 토큰 사용량이 모델 가격 하락 속도보다 더 빠르게 늘고 있다는 이유에서다.12일(현지시간) 벤처비트 등 외신에 따르면 마이트레이 차터지 선임 소프트웨어(SW) 엔지니어와 데반시 아가르왈 머신러닝(ML) 엔지니어는 딥시크가 'V4-프로' 모델 가격을 75% 내렸지만 기업용 AI 서비스 비용 부담은 여전히 크다고 주장했다.이들은 AI 에이전트가 기존 챗봇보다 최대 수백 배 많은 토큰을 소비하는 현상을 지적했다.

일반 챗봇은 사용자 질문 하나를 한 차례 모델 호출로 처리하지만, AI 에이전트는 계획 수립과 정보 검색, 도구 사용, 결과 검증, 요약을 거치며 여러 차례 모델을 호출하고 있어서다.

이 과정에서 사용자는 답변 하나만 받지만 서비스 제공업체는 전체 처리 과정에서 발생한 토큰 비용을 부담해야 한다.

모델 가격이 낮아져도 질문 하나가 수십 차례 유료 작업으로 이어지면 운영비 절감 효과는 제한적일 수밖에 없다.차터지 선임 SW 엔지니어는 "단일 대화형 챗봇은 사용자 입력 1토큰당 약 5토큰이 청구된다"며 "에이전트는 이 비율이 1대700 이상까지 높아질 수 있다"고 설명했다.

이어 "에이전트는 50토큰짜리 질문에 검색 문맥을 불러오고 도구를 실행한 뒤 결과를 요약할 수 있다"며 "약 3만5천개 입력 토큰이 청구될 수 있다"고 말했다.그는 이런 구조가 사용자당 월정액을 받는 서비스형 소프트웨어(SaaS) 사업 모델에도 부담을 준다고 지적했다.

월 40달러 요금제 이용자가 하루 50차례 이상 에이전트를 실행하면 추론 비용이 해당 사용자의 구독 매출을 넘어설 수 있다는 설명이다.아가르왈 ML 엔지니어는 비용 절감을 위해 질문 난도에 따라 적절한 모델을 배정하는 '비용 인식형 라우팅'과 프롬프트 캐싱을 도입해야 한다고 제안했다.

불필요한 문맥과 도구 출력값을 줄이고 에이전트의 도구 사용 횟수에 제한을 둬야 한다는 점도 강조했다.아가르왈 ML 엔지니어는 "AI 기업 경쟁력은 가장 저렴한 모델을 사용하는 것보다 에이전트의 작업 경로와 비용을 얼마나 정교하게 통제하는지에 달릴 것"이라고 밝혔다. ...