"미토스급 해킹 AI, 누구나 악용 가능?"…수개월 전 경고 현실로

[서울=뉴시스]윤정민 기자 = "지금보다 하반기가 더 두렵다. 올 하반기면 앤트로픽 '클로드 미토스' 성능의 80~90%를 따라오는 모델들이 나올 것이기 때문이다."

지난 4월 앤트로픽이 강력한 사이버 공격 능력을 갖춘 인공지능(AI) 모델 '미토스'를 내놓을 당시 보안 전문가들이 내놓은 경고다. 그리고 그 경고가 현실에 가까워지는 모습이다.

아직 미토스와 동등한 사이버 능력을 갖춘 개방형 모델이 나온 건 아니다. 하지만 최고 성능 AI에서 처음 확인된 공격 능력이 개발사 통제를 벗어난 모델로 확산되기까지 걸리는 시간이 빠르게 줄고 있다. 보안업계가 새로운 공격 능력에 대비할 수 있는 시간도 그만큼 짧아지고 있다는 지적이 나온다.

20일 업계에 따르면 문샷AI는 지난 17일 공개한 AI 모델 '키미 K3'의 전체 모델 가중치를 오는 27일 공개해 오픈웨이트 형태로 배포할 예정이다.

모델 가중치는 입력된 질문을 어떻게 해석하고 어떤 답을 내놓을지를 결정하는 모델의 핵심 데이터를 말한다. 가중치가 공개되면 이용자는 개발사의 서버를 거치지 않고 모델을 직접 운용하거나 목적에 맞게 추가 학습·수정할 수 있다.

키미 K3은 글로벌 AI 평가기관 '아티피셜 애널리시스'의 종합 성능 지표인 'AAII'에서 57점을 기록했다. 앤트로픽 '페이블 5'(60점), 오픈AI 'GPT-5.6 솔'(59점)에 이은 세계 최상위권 성적이다. 특히 자동화 소프트웨어 업무(코딩) 능력 부문에서는 미국의 두 간판 모델을 제치고 세계 1위에 올랐다.

◆고성능 AI, 한번 풀리면 통제 불가

키미 K3의 오픈웨이트 공개를 주목해야 하는 이유는 개발사가 배포 이후 이용 방식을 통제하기 어려워지기 때문이다.

폐쇄형 모델은 개발사가 이용 기록을 감시하고 의심 계정을 차단하거나 안전장치를 업데이트할 수 있다. 반면 오픈웨이트 모델은 이용자가 자체 서버에서 실행하며 답변 거부 기능이나 콘텐츠 필터를 수정·제거하고 개발사 감시 없이 공격 도구와 연결할 수도 있다.

중국산 오픈웨이트 모델의 또 다른 특징은 비용이다. AISI가 1억개 토큰을 사용하는 장기 사이버 공격 평가 비용을 계산한 결과 앤트로픽 '오퍼스 4.5·4.6'은 약 85달러였다. 지푸AI 'GLM-5.2'는 약 46달러, 딥시크 'V4 프로'는 1.19달러로 추산됐다. 성능 격차뿐 아니라 동일한 공격 시도를 반복하는 비용도 낮아지고 있다는 의미다.

◆美 AI 추격에 6~10개월서 4~7개월로…보안업계 '준비 시간' 줄었다

AISI는 지난 17일(현지 시간) 즈푸AI 'GLM-5.2', 딥시크 'V4 프로' 등 중국 AI 기업의 최신 오픈웨이트 모델의 사이버 능력 평가 결과를 공개했다.

지난달 출시한 GLM-5.2는 취약점 연구와 공격, 리버스 엔지니어링, 웹 공격, 암호기술 등 개별 사이버 과제에서 약 4개월 앞서 공개된 앤트로픽 '오퍼스 4.6'과 비슷한 성능을 보였다. 장시간에 걸쳐 여러 공격 단계를 계획하고 실행하는 모의 네트워크 평가에서는 약 7개월 앞서 공개된 '오퍼스 4.5' 수준으로 나타났다.

두 모델 모두 미토스 프리뷰가 보여준 최신 수준의 사이버 능력까지 따라잡은 건 아니다. 하지만 지난해에는 오픈웨이트 모델이 최첨단 폐쇄형 모델보다 6~10개월 뒤처졌으나 최근 격차는 4~7개월로 줄었다.

AISI는 이 시차를 최첨단 사이버 능력이 충분한 안전장치 없이 확산되기 전 보안업계가 대비할 수 있는 '준비 시간'으로 보고 있다.

이승현 라이너 AI 에반젤리스트는 "성능이 좋은 모델이 오픈소스로 풀리면 누가 어디에서 사용하는지 모니터링하기 어렵다"며 "공격자도 해당 모델을 이용할 수 있다는 점을 알고 있어야 한다"고 말했다.

◆코딩 1위가 곧 해킹 1위?…공격 능력은 별도 검증해야

다만 현재 키미 K3의 실제 사이버 공격 능력을 판단하기는 이르다. 키미 K3가 여러 코딩·에이전트 벤치마크에서 최상위권에 올랐지만 이 결과만으로 실제 취약점 공격 능력까지 뛰어나다고 볼 수는 없기 때문이다.

실제 사이버 능력을 판단하려면 취약점 발견과 악용, 리버스 엔지니어링, 공격 도구 활용, 여러 단계의 침투 계획을 장시간 이어가는 능력을 별도로 검증해야 한다. AISI도 키미 K3의 가중치가 공개되면 기존 모델과 같은 방식으로 평가할 계획이다.

오픈웨이트 확산이 공격자에게만 유리한 것도 아니다. 보안기업과 연구자도 자체 환경에 모델을 설치해 민감한 정보를 외부로 보내지 않고 코드 분석과 취약점 탐지, 패치 개발에 활용할 수 있다. 가중치에 직접 접근해야 가능한 안전성 연구도 수행할 수 있다.

이 에반젤리스트는 "공격과 방어가 함께 상향 평준화될지, 모델을 악용한 사례가 더 빠르게 늘어날지는 지켜봐야 한다"고 말했다.

AISI도 최첨단 사이버 능력이 동일한 안전장치 없이 확산되기 전 방어자가 준비할 수 있는 시간이 짧다며 기본 보안체계 강화와 AI 기반 방어 역량 투자가 필요하다고 밝혔다.

◎공감언론 뉴시스 alpaca@newsis.com ...