챗GPT 이어 클로드도 외부기관 해킹…AI 보안 위험 커져

오픈AI에 이어 앤트로픽의 인공지능(AI) 모델도 사이버 보안 성능 평가 과정에서 실제 외부 기업 시스템에 침투한 것으로 드러났다.

블룸버그 등 외신에 따르면 앤트로픽은 30일(현지시간) 자사 블로그를 통해 오픈AI의 해킹 사례 공개 후 자체 보안 평가를 점검한 결과 AI 모델 클로드가 세 차례 실제 외부 기관의 인프라에 무단 접근한 사실을 확인했다고 밝혔다.

가장 이른 사례는 지난 4월 발생했다.

피해 기관의 이름은 공개하지 않았다.

당시 평가는 다른 시스템을 침투해 숨겨진 정보를 찾는 '캡처 더 플래그(깃발 찾기)' 방식으로 진행됐다.

앤트로픽은 클로드에 자신이 인터넷과 연결되지 않은 모의 환경에서 작동하고 있다고 알려줬지만, 평가 파트너인 AI 보안업체 이레귤러와의 환경 설정 오류로 실제론 인터넷에 연결된 상태였다.

이에 AI는 실제 외부 시스템을 평가 대상의 일부로 오인하고 공격을 이어갔다....