AI ‘일시 탈옥’ 상태로 맞춤형 학습…안전성 더 높아졌다

‘인공지능(AI)의 안전성을 높이기 위해 먼저 안전장치를 잠시 푼다.’ 얼핏 모순처럼 들리지만 국내 연구진이 이 방법으로 기업과 개인 데이터를 학습해 특정 업무에 최적화한 맞춤형 AI를 만드는 과정에서 안전성이 떨어지는 문제를 해결했다.KAIST는 15일 김창익 전기및전자공학부 교수 연구팀이 AI의 맞춤형 업무 능력은 유지하면서 안전성을 높이는 ‘버퍼 앤드 리인포스(Buffer-and-Reinforce)’ 기술을 개발했다고 밝혔다.

기존 대형언어모델(LLM)은 회사 문서나 전문 데이터를 추가로 학습시키면 업무 능력은 향상되지만, 위험한 요청을 거부하도록 설계된 안전 규칙도 함께 약해질 수 있다.

연구팀은 AI를 일시적으로 ‘탈옥 상태’로 만든 뒤 맞춤형 학습을 진행하면 오히려 안전성이 크게 훼손되지 않는다는 점에 주목했다.

탈옥 상태는 AI가 원래 거부해야 할 위험한 요청에도 응답할 수 있도록 안전 규칙을 일시적으로 해제한 상태다.이를 위해 연구팀은 맞춤형 학습을 시작하기 전 ...