“AI가 개인정보 유출… 또다른 통로될 수도”

개인정보 유출 사고가 잇따르며 데이터 보안 우려가 커지는 가운데 의료 인공지능(AI) 모델 자체가 새로운 개인정보 침해 통로가 될 수 있다는 연구 결과가 나왔다.

공격자는 AI 모델을 분석해 특정 환자의 데이터가 AI 학습에 사용됐는지 알 수 있다.

특히 희귀질환 환자와 소수집단은 이런 공격에 더 취약한 것으로 분석됐다.

다니엘 뤼케르트 독일 뮌헨공과대(TUM) 교수팀은 의료 AI 모델의 개인정보 유출 위험을 분석한 결과를 국제학술지 ‘네이처’에 24일(현지 시간) 발표했다.

연구팀은 ‘멤버십 추론 공격(MIA)’을 분석 대상으로 삼았다.

MIA는 학습한 데이터에 더 자신 있는 예측을 내놓는 AI 모델의 특성을 활용한 공격이다.

공격자는 AI 모델의 확신도 차이를 통계적으로 분석해 특정 환자의 데이터가 학습에 포함됐는지 가려낸다.

모델이 내놓는 예측값만 확인하면 실행할 수 있어 정상적인 사용자로 위장한 누구라도 MIA를 비교적 쉽게 시도할 수 있다.

문제는 특정 환자의 데이터가 ...