AI 개발·GPU 운영 한번에…오픈소스컨설팅, 신제품 2종 출시

[지디넷코리아]오픈소스컨설팅이 그래픽처리장치(GPU) 운영 자동화와 클라우드 개발환경을 통합한 플랫폼을 앞세워 기업 인공지능(AI) 인프라 시장 공략에 박차를 가한다.오픈소스컨설팅은 GPU 운영 자동화 솔루션 '플레이스 GPU옵스(Playce GPUOps)'와 클라우드 개발환경 솔루션 '플레이스 컨테이너'를 동시 출시했다고 16일 밝혔다.최근 생성형 AI 확산으로 기업들의 GPU 투자가 빠르게 늘고 있지만 실제 활용률은 기대에 미치지 못하는 상황이다.

AI 개발환경과 GPU 자원 관리가 서로 다른 시스템에서 운영되면서 관리 복잡도가 커지고 GPU가 필요한 곳에 자원이 제때 배정되지 않는 문제가 지속되고 있다는 게 회사 측 설명이다.오픈소스컨설팅은 개발환경과 GPU 운영을 단일 플랫폼으로 통합하는 방식으로 이러한 문제를 해결한다는 구상이다.이번에 공개한 두 제품은 회사가 수행해온 생성형 AI·GPU 인프라 구축 프로젝트에서 축적한 현장 요구를 기반으로 개발됐다.

개발환경 생성과 동시에 GPU를 연결하고 사용이 끝난 GPU를 자동 회수해 다른 사용자에게 재배분해 달라는 고객 요구를 표준 제품으로 구현했다.플레이스 컨테이너는 쿠버네티스 기반 클라우드 개발환경 플랫폼이다.

개발자는 브라우저에서 VS코드와 주피터 노트북, ML플로우 등 다양한 개발 템플릿을 선택해 약 30초 만에 개인 개발환경을 생성할 수 있다.AI 개발에 필요한 경우 GPU도 동시에 연결할 수 있어 별도 신청 절차 없이 곧바로 GPU 기반 개발환경을 사용할 수 있다.

폐쇄망 환경도 지원해 금융과 공공기관에서도 활용 가능하도록 설계됐다.플레이스 GPU옵스는 GPU 도입 이후 운영 전 과정을 단일 웹 콘솔에서 관리하는 플랫폼이다.

사용자 인증과 권한 관리, GPU 클러스터 스케줄링, 워크로드 배포, GPU 파티셔닝, 실시간 모니터링, 자산 관리 등을 통합 지원한다.GPU 일부만 필요한 경우 필요한 용량만 할당하는 파티셔닝 기능과 유휴 GPU 자동 회수 및 재배치 기능을 제공해 동일한 인프라에서 더 많은 AI 학습과 추론 작업을 수행할 수 있도록 설계했다.오픈소스컨설팅에 따르면 두 제품을 함께 활용할 시 개발환경 생성부터 GPU 할당, 모델 학습, 자원 회수까지 단일 운영 흐름으로 연결된다.

AI 개발이 끝난 뒤에는 GPU를 자동으로 회수해 대기 중인 다른 작업에 재배분한다.

특히 오픈소스컨설팅의 프라이빗 클라우드 플랫폼 '플레이스 클라우드'와 연계해 AI 개발·배포·운영을 통합 관리할 수 있다.오픈소스컨설팅은 클라우드 네이티브 전환과 오픈소스 기반 인프라 구축 경험을 바탕으로 CNCF 쿠버네티스 서비스 인증과 오픈인프라재단 지원 조직 자격을 확보했다.

AI 워크로드를 포함한 프라이빗 클라우드 플랫폼 사업도 확대 중이다.장용훈 오픈소스컨설팅 대표는 "AI 경쟁력은 GPU를 얼마나 많이 보유했는지가 아니라 확보한 자원을 얼마나 효율적으로 활용하느냐에 달려 있다"며 "플레이스 컨테이너와 플레이스 GPU옵스를 통해 AI 개발·운영을 단일 플랫폼으로 연결하고 고객이 AI 서비스를 더 빠르고 안정적으로 구축·운영할 수 있도록 지원하겠다"고 밝혔다. ...