“오픈·효율·최신 기술, 3개 축으로 간다”…엔비디아 생성형 AI 부사장 인터뷰

엔비디아 CEO 젠슨 황이 발언하면 기술 업계가 주목한다. 황은 지난주 X에 처음으로 게시물을 올려, 오픈 AI 모델이 안전성과 사이버 보안을 강화하고 혁신과 확산을 가속화하며 주권 확립을 가능하게 한다고 주장했다.

엔비디아는 GPU에 특화된 반도체 기업이다. 또한 다운로드와 수정이 자유로운 오픈웨이트 모델인 네모트론(Nemotron)을 비롯한 자체 AI 모델도 보유하고 있다. 엔비디아는 네모트론 코얼리션(Nemotron Coalition)과 새롭게 출범한 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)를 통해 오픈 AI 기술과 보안 확산에도 앞장서고 있다.

황의 최근 발언을 계기로, Computerworld는 오픈 모델의 의미와 기업·주권 애플리케이션에서의 역할을 더 자세히 알아보기 위해 엔비디아 생성형 AI 소프트웨어 부문 부사장 브리스키와 인터뷰를 진행했다.

엔비디아 생성형 AI 소프트웨어 부문 부사장 카리 브리스키Nvidia

브리스키는 오픈 모델이 기업과 국가에 모델을 소유하고 검토하며 자체 데이터로 조정할 수 있는 권한을 부여한다고 말했다. 또한 지역과 기업마다 도입 속도에는 차이가 있지만 모든 모델이 격차를 좁히는 데 눈에 띄는 성과를 거뒀다고 덧붙였다. 브리스키는 네모트론의 특징으로 학습 데이터 공개를 꼽으며, 새로운 차원의 참여를 이끌어냈다고 밝혔다. 데이터를 공개하자 기업이 연락을 취해 왜 이 데이터셋을 공개했는지 이유를 물었고, 덕분에 기업이 데이터를 직접 큐레이션하고 생성하며 수집하고 통제하는 사고방식을 갖게 됐다고 설명했다.

오픈 모델 개발 시 CIO와 주권적 활용 중 어느 쪽을 염두에 두는지 묻는 질문에는 둘 다라고 답했다. 최상위 수준에서는 활용 사례, 데이터셋, 달성하고자 하는 결과가 본질적으로 동일하다고 말했다. 또한 “과거에는 질의응답 방식이 주를 이뤘지만 이제는 에이전트 워크로드로 전환돼 실질적인 작업 수행과 도구 호출이 핵심이 됐다”라고 지적했다. 브리스키는 특정 작업을 완수하기 위해 어떤 도구를 호출할지는 기업마다 지역마다 달라지기 때문에, 로컬 모델과 로컬 생태계를 연결하고 각 모델에 사후 학습을 적용한다고 설명했다. 기업 하나가 2,000개의 도구를, 특정 지역이 2,000개의 지역 도구를 보유할 수 있다는 예시를 들었다. 강화학습 환경, 합성 데이터 생성, 헬스케어·금융 데이터를 위한 익명화 및 차등 프라이버시 적용 등 세부 방식은 다르지만 근본 원리는 같다고 덧붙였다.

엔비디아가 오픈 모델을 공개하는 이유에 대해 브리스키는 네모트론을 무엇보다도 자사를 위해 구축한다고 밝혔다. 단순한 학습뿐 아니라 추론까지 포함해 규모에서 작동하는 시스템을 이해하고, 토큰 효율성 등 모델 아키텍처 측면에서 반복 개선할 수 있기 때문이라고 설명했다. 또한 생태계가 번성하는 것이 엔비디아의 신념이라며, 모델을 공개하면 더 많은 신생업체와 빌더가 생겨나고 진입 장벽이 낮아진다고 강조했다.

오픈 모델과 AI 주권의 연관성에 대해 브리스키는 솔직하게, 핵심은 컴퓨팅 자원이 부족해 기본 모델조차 구축하지 못했던 지역을 부트스트래핑하는 것이라고 말했다. 과거 역량의 거점은 고등교육이나 연구 기관에 집중돼 있었고, 특정 지역에서는 컴퓨팅 클러스터 접근 자체가 연구비 지원에 달려 있었다고 설명했다. 접속했다가 끊기고 다시 다른 연구비를 찾아야 하는 단속적인 방식이 지속적인 반복 개선을 어렵게 만든다고 지적했다. 브리스키는 AI 스케일링 법칙을 거론하며, 컴퓨팅이 많을수록 지능이 높아지고 접근성이 높을수록 발전 속도가 빨라진다고 밝혔다. 오픈 모델과 오픈 데이터는 바로 그 부트스트랩이라며, 사전 학습 모델로서 인터넷 지식을 처음부터 다시 축적할 필요가 없다고 덧붙였다.

남아시아에서 음성과 구전이 더 큰 비중을 차지하고 챗봇은 상대적으로 덜 사용되는 환경에 어떻게 접근할지, 소형 언어 모델(SLM) 방식이 답인지를 묻는 질문에 브리스키는 “상황에 따라 다르다”고 답했다. 언어는 끊임없이 진화하며, AI는 인프라라는 제1원칙으로 돌아가야 한다고 말했다. 또한 모델뿐 아니라 하네스, 역량, 런타임 전체가 새로운 컴퓨팅 플랫폼이라고 강조했다. 브리스키는 일상 애플리케이션에 AI를 통합하는 것은 아직 시작 단계이며, 사투리까지 이해하고 업데이트할 수 있을수록 AI는 더욱 강력해진다고 말했다. 이런 틈새 영역의 이해가 AI 배포의 데이터 플라이휠을 구동한다고 지적하며, 하룻밤 사이에 이뤄질 수는 없고 그래서 지금이 새로운 산업혁명이라고 강조했다. 모델 업데이트를 위해 어디서나 인프라를 구축해야 하며, 엣지에서는 대형 교사 모델이 SLM으로 작동할 수도 있다고 덧붙였다.

GPU 접근 부재로 혁신이 불가능하다고 토로하는 네팔 AI 기업의 사례를 전하며 보유한 하드웨어에서 구동되는 모델이 필요하다는 이야기를 어떻게 보는지 묻자, 브리스키는 엔비디아는 생태계 중심으로 사고하며 개발자를 지원하고자 한다고 말했다. 다양한 규모의 선택지를 제공하는 이유가 바로 여기에 있다며, 네모트론 제품군에 나노, 수퍼, 울트라가 있는 것은 배포 위치만의 문제가 아니라 개발자들이 소형 GPU에서 반복 개선하다 울트라 같은 더 강력한 모델로 확장할 수 있게 하기 위해서라고 설명했다. 또한 “엔비디아는 클라우드 서비스 제공업체 전반에서 서비스형 모델(MaaS) 방식으로 운영되며, 런칭 당일 모든 플랫폼에서 바로 사용할 수 있도록 클라우드 파트너와 추론 파트너들이 최적화된 서비스를 준비해 둔다”라고 밝혔다. 브리스키는 체크포인트만 넘기고 끝내는 방식이 아니라 마지막 단계까지 파트너를 지원하며, 협력업체는 출시 전 조기 접근 권한을 받아 출시 당일 각자의 플랫폼에서 곧바로 서비스할 수 있다고 덧붙였다.

리눅스처럼 오픈 기술에서 업계가 협력하는 방식으로 모델 협업이 가능한지, 성능과 품질 중 어디에 초점을 두는지 묻는 질문에 브리스키는 성능과 품질 모두를 추구한다고 밝혔다. 느리거나 무거운 고품질 모델도, 빠르지만 성능이 나쁜 모델도 용납할 수 없다며, 효율성·최신 기술 수준·개방성이라는 세 가지 차원을 목표로 한다고 말했다. 또한 오늘날 모델들은 이미 협업하고 있어, 계획 에이전트가 질문을 가장 적합한 모델로 라우팅한다고 설명했다. 브리스키는 네모트론 코얼리션을 통한 파트너십의 목표가 오픈 소스와 협업에 헌신하는 최고의 인재들을 한데 모으는 것이라고 말했다. “구성원은 새로운 아키텍처 사전 학습, 사후 학습 강화학습 환경, 데이터 기여 등 다양한 방식으로 참여하며, 궁극적으로 모두가 하나의 모델에 협력하는 것이 목표”라고 전했다. 또한, 코얼리션이 모델 아키텍처, 즉 토큰 효율성, 잠재 혼합 전문가 방식, 라우팅 방식 변경 등 새로운 아키텍처 관점에서 중요한 이유이며, 이런 아이디어들이 외부에서 유입되어야 한다고 강조했다.

개발도상국에서는 응답을 충분히 예측할 수 있을 만큼 검증된 구형 모델로 회귀하는 사례가 있다는 지적에는 모델을 떠나 모든 소프트웨어에서 나타나는 현상이라고 답했다. 업그레이드 후 이전처럼 작동하지 않거나 결과가 개선되지 않는 경우가 있으며, 특정 프롬프트로 시스템을 구축한 경우 모델이 기존과 다르게 반응할 수 있다고 인정했다. 브리스키는 코얼리션을 구성하고 긴밀한 파트너 그룹과 협력하는 이유가 바로 여기에 있다며, 협력업체의 평가 벤치마크를 내부로 가져와 회귀 없이 개선만 이뤄지도록 철저히 검증한다고 밝혔다. 또한 AI와 함께하는 사고방식과 테스트 방식 자체를 전환해야 한다고 조언했다. 브리스키는 최신 모델이 반드시 최선인지 묻는다면 그렇다고 답하겠다며, 기업과 국가에는 빠르게 평가하고 프롬프트를 업데이트하며 새로운 모델을 도입하는 역량이 필요하다고 강조했다.

엔비디아 모델을 포크해 허깅페이스에 올리고 원하는 대로 사용할 수 있는지, 포크와 벤치마크에서 교훈을 얻는지 묻는 질문에 브리스키는 엔비디아가 매우 개방적인 라이선스를 운영하며 정밀도를 줄인 NVFP4 체크포인트를 공개한다고 말했다. 가장 작은 풋프린트로 강력한 모델을 구동하려는 수요가 높아 특히 울트라 모델을 중심으로 인기가 많다고 설명했다. 또한 성숙한 모델에서도 다양한 양자화 작업이 이뤄져 결과물이 다시 공개되고 있으며, 브리스키는 이런 커뮤니티 참여 방식과 다양한 포크를 긍정적으로 평가한다고 밝혔다. 엔비디아는 포크도 추적하는데, 포크 현황을 보면 사람들이 무엇을 중요하게 여기는지 파악할 수 있다고 전했다. 브리스키는 “오픈 공개의 목적이 모델이 어떻게 변형되고 어떻게 적응되는지 확인해 다시 세상에 내놓는 것”이라며, “벤치마크는 목표치가 아닌 기본 전제일 뿐이고, 최근 90일 사이 워크로드 방식이 질의응답 쌍에서 에이전트 워크로드로 급격히 변화했고, 모델을 완전히 추적할 수 있게 됐다”라고 밝혔다. 또한, 짧은 시간 내에도 높은 지능과 컴퓨팅·토큰 효율성을 함께 달성할 수 있음을 증명하고 싶다고 덧붙였다.
dl-itworldkorea@foundryco.com ...