생성형 AI의 '창과 방패'… KAIST, AI 스스로 숨은 약점 찾는 기술 개발

[충청투데이 조정민 기자] 인공지능(AI)이 일상과 산업 전반으로 급속히 확산하고 있지만, 위험하거나 유해한 답변을 하는 취약점 문제는 여전히 해결되지 않은 숙제다.튼튼한 성벽을 쌓으려면 어디가 약한지 먼저 찾아야 하듯 AI 역시 배포 전 의도적으로 유해한 질문을 던져 약점을 찾아내는 레드팀 검증이 필수적이다.국내 연구진이 AI의 숨은 허점을 기존보다 약 7배나 더 다양하게 찾아내는 혁신적인 검증 프레임워크를 개발해 주목을 받고 있다.30일 KAIST에 따르면 전기및전자공학부 김준모 교수 연구팀이 대규모 언어모델(LLM)의 안전성 ...