오픈AI 에이전트, 인간 통제 벗어나 자율 해킹…"전례 없는 사고"

[서울=뉴시스]박미선 기자 = 오픈AI의 AI 에이전트가 테스트 환경을 벗어나 스스로 새로운 보안 취약점을 발견한 뒤 AI 스타트업 허깅페이스를 해킹하는 사건이 발생했다. 인간의 통제를 벗어난 AI 시스템이 자율적으로 수행한 사이버 공격이 공개된 첫 사례 중 하나다.

21일(현지 시간) 파이낸셜타임스(FT)에 따르면 챗GPT 개발사 오픈AI는 이를 "전례 없는 사이버 사건"으로 규정하며, 인간의 지시에 따라 자율적으로 작업을 수행하는 AI 프로그램인 에이전트가 테스트 환경을 탈출해 인터넷에 접속한 뒤 로그인 자격증명을 탈취했다고 밝혔다.

이번 사건은 첨단 AI 시스템이 인간의 통제를 우회해 디지털 인프라를 공격할 수 있다는 우려가 커지는 가운데 발생했다.

오픈AI는 "사이버 공격 능력이 점점 향상된 AI 모델이 확산되면서 이 같은 사고는 앞으로 더 흔해질 것으로 예상한다"고 밝혔다.

샘 올트먼 오픈AI 최고경영자(CEO)는 다음 주 차세대 AI 모델과 관련해 미국 정부에 브리핑하기 위해 워싱턴을 방문할 예정이며, 미국 정부는 앤트로픽의 '미토스' 모델이 고도의 사이버 취약점 탐지·악용 능력을 보여준 이후 차세대 AI 모델 출시 전 사전 검증하려는 움직임을 강화하고 있다.

오픈AI에 따르면 이번 사건에는 이달 초 공개된 GPT-5.6 솔(Sol)을 비롯해, 아직 출시 전 테스트 중이던 더 고성능 모델이 함께 관여했다. 오픈AI는 블로그를 통해 "이번 사건을 최첨단 사이버 능력이 개입된 전례 없는 사이버 사건으로 판단하고 있으며, 그에 맞게 대응하고 있다"고 전했다.

허깅페이스는 AI 모델과 데이터세트를 개발자들에게 제공하는 플랫폼으로, 지난주 외부 AI 에이전트에 의해 시스템이 침해됐다고 밝혔다.

클레망 들랑그 허깅페이스 CEO는 X(옛 트위터)를 통해 "공격의 정교함을 고려할 때 지난주 사이버 공격이 프론티어 연구소에서 비롯됐을 것으로 의심했다"며 "오픈AI와 하루 동안 긴밀히 협력한 결과, 오픈AI 측에 악의는 없었다고 강하게 확신한다. 이 모든 게 자율적으로 일어났다는 사실이 정말 놀랍다"고 말했다.

◎공감언론 뉴시스 only@newsis.com ...