통제 뚫고 무단 해킹한 AI, 어떻게 막을까… 주목받는 ‘AI 정렬’

최근 오픈AI의 인공지능(AI) 에이전트가 성능 평가 도중 격리 환경을 뚫고 외부 사이트를 해킹한 사건이 발생하면서, 처음부터 AI가 탈옥(jailbreak·AI의 안전장치 우회)을 시도하지 않도록 설정하는 기술인 ‘AI 정렬’이 주목받고 있다.

전문가들은 취약점을 자동으로 찾고 해킹에 대응하는 ‘수비형 AI’만으로는 충분하지 않기 때문에 처음부터 안전에 ...