에임인텔리전스 “모델 성능과 안전은 별개…AI 에이전트 보안이 더 어려운 이유”

인공지능(AI) 보안 스타트업 에임인텔리전스(AIM Intelligence)가 AI 에이전트 시대에서 정적인 가드레일만으로는 보안 위협을 막을 수 없다고 지적했다.

뛰어난 모델 성능이더라도 안전성을 보장하지 않는 만큼, 에이전트 개발 초기 단계부터 보안을 내재화하고 이를 실시간으로 방어하는 동적 체계를 구축해야 한다는 주장이다.지난 8일 과학기술정보통신부가 주최하고 한국인터넷진흥원(KISA)이 주관한 ‘제15회 정보보호의 날 기념식’에서 ‘AI 보안 레드팀 및 CVD·VDP 심포지엄’이 개최됐다.

이날 연사로 나선 에임인텔리전스의 유상윤 대표는 AI 에이전트 보안의 현주소를 짚었다.

에임인텔리전스는 오픈AI, 앤스로픽, 메타 등 글로벌 빅테크의 모델 안전성 평가에 참여한 경험을 바탕으로, 국내 금융·공공 기업들의 실전형 보안 체계 구축을 지원하고 있다.

보안 취약점을 선제적으로 발견하는 ‘레드티밍(Red Teaming, AI 모델의 잠재적 취약성과 편향성을 테스트해 신뢰성과 성능 ...