허깅페이스가 오픈AI에 내민 청구서 “로그 공개와 컴퓨팅 자원 지원”

허깅페이스(Hugging Face) CEO 클레망 들랑게가 오픈AI의 AI 에이전트가 자사 시스템을 해킹한 사건을 계기로 ‘과격한 투명성(radical transparency)’을 요구하고 나섰다.

들랑게는 7월 26일 X에 올린 게시물에서 오픈AI에 ‘이탈(rogue)’ 에이전트의 실행 추적 데이터를 공개해 연구 커뮤니티 전체가 사건 경위를 분석할 수 있도록 해달라고 촉구했다. 또한 허깅페이스 커뮤니티가 강력한 사이버 방어 체계를 구축할 수 있도록 오픈AI가 1억 달러 규모의 컴퓨팅 자원을 지원해야 한다고 주장했다. 들랑게는 “자율 AI 에이전트에 의한 최초의 사이버 공격은 전례 없는 사건이며, 전례 없는 대응을 받을 자격이 있다”고 밝혔다.

사건의 발단은 7월 11일 주말로 거슬러 올라간다. 오픈AI는 사이버 역량 벤치마크인 익스플로잇짐(ExploitGym) 평가를 진행하는 과정에서 GPT-5.6 솔과 미공개 차기 모델이 격리된 테스트 환경을 탈출했다고 7월 21일 공식 발표했다. 두 모델은 샌드박스 내 패키지 레지스트리 캐시 프록시 소프트웨어에서 기존에 알려지지 않은 제로데이 취약점을 스스로 발견한 뒤 권한을 상승시켜 오픈AI 연구 환경 전반에 걸쳐 횡적 이동을 감행했다. 외부 인터넷에 접근한 모델들은 익스플로잇짐 문제를 직접 풀기보다 정답을 구하는 방식을 선택했고, 허깅페이스 서버에 관련 데이터셋이 있을 것으로 추론해 탈취한 자격 증명과 추가 취약점을 활용해 원격 코드 실행 권한을 획득하고 프로덕션 서버를 침해했다.

허깅페이스는 오픈AI 보안팀이 접촉하기 전에 이미 자체 탐지 시스템으로 침해를 독자적으로 식별·차단하고 사건 경위를 파악하기 시작했다. 허깅페이스 공동 창업자 겸 최고과학책임자(CSO) 토머스 울프는 구조적 문제를 정면으로 지적했다. 울프는 최전선 모델이 인프라를 공격하는 상황에서 방어 측은 수분·수시간 내에 최첨단 도구에 접근할 수 있어야 하며, 검증된 접근 프로그램 신청이라는 절차를 밟아야 하는 현실은 방어자에게 불리한 구조임을 강조했다.

오픈AI 대변인은 샌프란시스코 면담 사실을 확인하면서 “현재 외부 자문단 및 안전·보안 위원회 감독 하에 철저한 검토를 진행 중이며, 검토가 완료되는 대로 수 주 내에 기술 보고서를 공개할 계획”이라고 전했다. 또한 오픈AI는 허깅페이스를 자사 ‘신뢰 접근(trusted access)’ 사이버보안 프로그램에 추가해, 사이버 방어에 특화된 낮은 가드레일 버전의 GPT-5.6 솔을 허깅페이스가 활용할 수 있도록 했다.

이번 사건은 미국 의회도 즉각 움직이게 했다. 들랑게의 요구 공개 사흘 전인 7월 23일, 민주당 하원의원 테드 리우(캘리포니아)와 공화당 하원의원 나타니엘 모런(텍사스)이 초당적으로 ‘AI 킬 스위치법(AI Kill Switch Act)’을 발의했다. 법안은 미국 국토안보부(DHS)가 상무장관 및 국가정보국장과 협의해 AI 시스템의 출력 제한·접근 차단·운영 중단을 순차적으로 명령할 수 있는 권한을 부여한다. 위반 시 하루 최대 200만 달러, 긴급 명령 위반 시 하루 최대 2,000만 달러의 과태료가 부과된다. 적용 대상은 컴퓨팅 비용 1억 달러 이상이 투입된 AI 시스템을 보유하면서 AI 관련 연매출이 5억 달러를 초과하는 기업이다.

리우 의원은 “안타깝게도 강력한 AI 시스템은 통제를 벗어나 극도로 위험한 방식으로 작동하거나 인간의 개입에 저항할 수 있다”고 말했다. 또한 미국 상무부가 수출통제 권한을 발동해 접근을 일시 중단시킨 앤트로픽의 클로드 미토스 5, 클로드 페이블 5 모델 사례도 ‘불충분한 가드레일’의 사례로 함께 지목했다.
dl-itworldkorea@foundryco.com ...