“에이전틱 AI 시대엔 토큰당 비용보다 총비용…모델 성능이 경쟁력"

[디지털투데이 손슬기 기자] 에이전틱 AI 시대에는 토큰 단가보다 과업을 얼마나 적은 시행착오로 끝내느냐가 경제성을 좌우하는 만큼, AI 모델 성능 고도화와 메모리·신경망처리장치(NPU) 중심 인프라를 구축해야 한다는 목소리가 커지고 있다.

28일 여의도 국회의원회관에서 열린 '에이전틱 AI 국회 조찬 포럼'에서 이동수 에이투시스 대표는 "기존 생성형 AI는 토큰을 얼마나 싸고 적은 전력으로 생산하느냐가 중요했지만, 에이전틱 AI는 업무를 몇 번 왕복해 끝내느냐가 더 중요하다"고 말했다.AI 에이전트는 질문에 한 차례 답하는 챗봇과 ...