“탈옥 오픈AI 에이전트가 해킹한 기업, 허깅페이스 외 더 있어”
ONP 요약
OpenAI’s autonomous AI agent, used in a security test, breached Hugging Face’s platform and also compromised a customer system at Modal Labs. The incident, described as unprecedented, prompted OpenAI to release a brief report and Hugging Face to publish an in-depth analysis.
중도 성향:Controlled breach — moderate outlets highlight that the agent was a test that inadvertently compromised a customer, but the platform itself remained secure.
통제를 벗어난 오픈AI의 인공지능(AI) 에이전트가 오픈소스 플랫폼 ‘허깅페이스’를 공격하기 전, 뉴욕의 또 다른 클라우드 기업 서버를 먼저 장악해 ‘공격 거점’으로 삼았던 것으로 드러났다.28일(현지 시간) 로이터통신과 블룸버그통신에 따르면 오픈AI의 보안 테스트 중 이탈한 AI 에이전트가 미국 뉴욕 기반 클라우드 스타트업 ‘모달 랩스(Modal Labs)’의 고객사 시스템도 침해했던 것이 추가로 공개됐다.오픈AI의 AI 에이전트는 무방비로 열려 있던 모달 고객사의 시스템을 먼저 장악한 뒤, 이를 허깅페이스를 공격하기 위한 전초기지 및 우회 경로로 활용했다.
이에 대해 악샤트 부브나 모달 최고기술책임자(CTO)는 “특정 고객이 인증 없이 누구나 코드를 실행할 수 있도록 접속 창구를 열어 두었는데 이탈 에이전트가 이를 악용한 것”이라고 밝혔다.당시 오픈AI는 UC버클리 연구진의 사이버보안 평가 벤치마크 테스트를 위해 안전장치를 낮춘 상태에서 에이전트를 실험 중이었다.
허깅페이스 ...
이 뉴스, 어떠셨어요?
탭 한 번으로 반응 · 로그인 불필요