나델라 CEO "기업, AI 쓰다 업무 노하우 뺏겨…자체 학습 환경 필수"

[지디넷코리아]마이크로소프트가 기업용 인공지능(AI) 도입 과정에서 발생할 수 있는 데이터 유출과 기술 종속 위험을 경고했다.

14일 테크크런치 등 외신에 따르면 사티아 나델라 마이크로소프트 최고경영자(CEO)는 최근 블로그를 통해 기업이 AI 이용료뿐 아니라 핵심 업무 지식까지 모델 개발사에 제공할 수 있다고 주장했다.

이를 막으려면 기업이 데이터 소유권을 유지할 수 있는 자체 운영 체계를 갖춰야 한다고 강조했다.나델라 CEO는 AI 모델이 이용자가 작성한 프롬프트와 에이전트가 사용한 도구로 기업 업무를 학습한다고 봤다.

특히 모델 오류를 바로잡는 과정에서 입력되는 수정 사항이 조직 경험과 판단 기준을 담은 노하우로 정제될 수 있다고 분석했다.

나델라 CEO는 "이 과정에서 기업 고객은 내부 사업 구조와 업무 방식에 관한 정보를 AI 개발사에 넘길 수 있다"며 "돈을 주고도 얻기 어려운 지식을 모델 업체에 넘기는 셈"이라고 지적했다.

그는 AI 개발사가 인터넷에 공개된 데이터로 모델을 학습하면서 타기업 모델 증류를 제한하는 관행도 비판했다.

증류는 기존 모델 결과물을 분석해 작동 방식을 익히고 이를 토대로 더 작고 저렴한 모델을 개발하는 방법론이다.나델라 CEO는 AI 업체가 고객의 질문과 답변 기록을 자사 모델 학습에 활용할 수 있도록 약관에 규정한 경우를 주의해야 한다고 지적했다.

기업이 입력한 프롬프트와 오류 수정 내용이 외부 AI의 성능을 높이는 데 쓰일 수 있기 때문이다.이에 그는 "기업은 프롬프트와 피드백을 포함한 데이터 소유권을 유지할 수 있는 자체 학습 환경을 구축해야 한다"며 "기업 데이터가 저장된 클라우드에 독립적인 학습 체계를 구축해 AI 사용 과정에서 만들어진 지식을 내부 자산으로 남겨야 한다"고 말했다.

나델라 CEO는 특정 모델 업체에 대한 종속을 줄이기 위한 '오케스트레이션 계층' 구축도 제안했다.

여러 업체 AI 모델을 필요에 따라 바꿔 사용할 수 있는 구조를 만들어 가격과 성능·보안 조건에 맞춰 모델을 선택해야 한다는 설명이다.그는 "기업은 AI 모델을 사용하기 위해 돈과 핵심 지식을 지불하고 있는 셈"이라며 "AI를 사용하는 과정에서 새롭게 만들어진 지식은 해당 기업 소유여야 한다"고 밝혔다. ...