챗GPT, 통제망 뚫고 외부 플랫폼 해킹…AI 보안 우려 현실로

오픈AI의 최신 인공지능 모델이 내부 보안 평가 과정에서 통제 환경을 벗어나 외부 플랫폼을 해킹하는 사고가 발생했다.

자율적으로 움직이는 인공지능(AI)가 실제 사이버 공격을 벌인 이례적인 사례로, AI 안전성에 대한 논란이 커질 전망이다.오픈AI는 21일(현지시간) ‘GPT-5.6 솔’과 일부 미공개 모델이 사이버 공격 능력 평가 도중 오픈소스 AI 플랫폼 허깅페이스 서버에 무단으로 접근한 사실을 확인했다고 밝혔다.시험은 외부 인터넷과 차단된 샌드박스에서 진행됐지만, 모델들은 아직 공개되지 않은 제로데이 취약점을 이용해 격리망을 빠져나갔다.

이후 허깅페이스에 접속해 인증 정보를 탈취하고 서버를 해킹한 것으로 조사됐다.오픈AI는 모델들이 보안 벤치마크 문제의 해결책을 찾는 데 지나치게 집중하면서 허용 범위를 벗어난 수단까지 동원한 것으로 분석했다.

당시 공격 능력을 확인하기 위해 일부 안전장치가 완화돼 있었다고 설명했다.허깅페이스는 앞서 자사 서버가 자율 AI 에이전트의 공격 ...