AI 서비스도 해킹 점검한다…S2W, 취약점 진단 사업 확대

[서울=뉴시스]윤정민 기자 = S2W가 기업 인공지능(AI) 서비스의 보안 취약점을 점검하는 사업을 확대한다.

S2W는 실제 해커들의 공격 시나리오를 바탕으로 AI 서비스의 안전성을 점검하는 진단 사업을 본격화한다고 30일 밝혔다.

다크웹과 텔레그램, 암시장 해킹 포럼 등에서 수집한 거대언어모델(LLM) 전용 공격 기법을 점검에 직접 적용하는 방식이다. 점검에는 국제 비영리 보안단체 OWASP가 정한 'LLM 10대 보안 취약점' 기준을 활용한다 .이는 LLM 서비스에서 주의해야 할 대표 보안 취약점 기준이다.

AI 서비스 취약점 진단이 필요한 이유는 기업 AI가 단순 챗봇을 넘어 내부 업무와 고객 서비스, 데이터 처리 과정에 깊숙이 들어가고 있기 때문이다. AI가 잘못된 명령을 수행하거나 외부 공격에 속아 민감정보를 노출할 경우 기존 웹·앱 보안 점검만으로는 대응하기 어려운 문제가 생길 수 있다.

S2W는 모델, 프롬프트, 데이터, 에이전트 등 AI 서비스를 구성하는 여러 요소에 숨은 보안 취약점을 정밀 진단한다. 공격자가 이를 악용할 수 있는 가능성을 검증하고 구체적인 개선 방안도 함께 제시해 기업이 내부 AI 보안 점검 체계를 세울 수 있도록 지원한다.

사업 확대 배경에는 AI가 기업 핵심 업무 시스템과 서비스 전반에 빠르게 도입되면서 기존 보안 체계만으로 대응하기 어려운 위협이 늘고 있다는 판단 때문이다.

S2W는 과학기술정보통신부와 한국인터넷진흥원(KISA)이 'AI 보안 레드티밍 가이드'를 발간한 것도 AI 서비스 안전성 사전 점검 수요가 커지고 있음을 보여준다고 설명했다.

S2W는 최근 국내 대형 금융사의 AI 서비스 취약점 진단 사업도 수주했다. 금융권의 엄격한 보안 기준과 규제 환경을 고려한 진단을 수행 중이며 향후 AI 도입이 확산되는 다양한 산업으로 사업 범위를 넓힐 방침이다.

양종헌 S2W 통합분석실장은 "AI 서비스의 잠재적 위험을 사전에 찾아내기 위해서는 AI를 활용한 정교한 점검과 공격자 관점의 전문적인 검증이 함께 이뤄져야 한다"며 "자체 개발한 AI 기반 도구에 오펜시브 보안 전문가의 노하우를 결합해 실효성 높은 진단 서비스를 제공하고 있다"고 말했다.

◎공감언론 뉴시스 alpaca@newsis.com ...