격리 환경도 뚫고 타사 침입한 AI…방어책 마련 절실

오픈AI 모델이 자사 격리 환경을 빠져나와 외부 플랫폼을 해킹한 것을 두고 업계에서는 숙련된 해커의 침투 수법과 닮아 있다는 평가가 나온다.
오픈AI가 21일(현지시간) 공개한 해킹 경위를 보면, 모델들은 먼저 회사가 내부에서 쓰던 프로그램 저장 시스템(패키지 저장소 프록시)에서 아무도 몰랐던 보안 허점, 이른바 '제로데이 취약점'을 찾아냈다. 개발사조차 존재를 모르는 허점이라 방어책이 없는 상태였다.
이 허점으로 인터넷 접속 경로를 확보한 모델들은 허깅페이스에 시험 정답과 관련 자료가 저장돼 있을 것이라 스스로 추론했다. 이어 훔 - 매일신문 ...