"AI 민원 챗봇도 개인정보 검증 필수"…공공 AI 개인정보 보호기준 나왔다

[서울=뉴시스]윤정민 기자 = 정부가 공공기관의 인공지능(AI) 서비스 도입 과정에서 개인정보를 어떻게 보호해야 하는지에 대한 실무 지침을 마련했다. 예를 들어 AI 민원 챗봇을 만들거나, AI로 복지 대상자를 추천할 때 어떤 개인정보를 쓰고 어디까지 보호해야 하는지 확인하도록 했다.

개인정보보호위원회는 23일 열린 제11회 과학기술관계장관회의에서 이러한 내용의 '공공 AX 프라이버시 보호 안내서'를 공개했다.

공공기관은 복지, 보건, 안전, 민원 등 국민 일상과 밀접한 분야에서 많은 데이터를 다룬다.

개인정보위는 일선 공공기관에 개인정보 보호와 AI 분야 전문인력이 충분하지 않아 복잡한 AI 데이터 처리방식을 이해하고 보호조치를 설계하는 데 어려움이 있다고 봤다.

이에 AI 관련 사전실태 점검, 사전적정성 검토 결과 등 실제 사례를 바탕으로 법적 기준과 안전 조치를 안내서에 담았다.

◆AI 민원 챗봇부터 복지 대상자 선별까지…3단계로 점검

안내서는 공공 AI 도입 과정을 ▲사전 설계 ▲개발·구축 ▲시스템 적용·관리 등 3단계로 나누고 실무자가 확인해야 할 10대 핵심 점검사항을 제시했다.

사전 설계 단계에서는 AI를 왜 쓰는지, 어떤 개인정보를 다루는지부터 명확히 하도록 했다. 기관은 필요한 정보만 최소한으로 수집하고 개인정보를 수집·이용·제공할 법적 근거가 있는지도 확인해야 한다.

개발·구축 단계에서는 AI 학습데이터를 쓰거나, 이용자가 지시어를 입력하거나, AI가 검색 결과를 참고해 답변하는 과정에서 개인정보가 처리되는 지점을 점검하도록 했다. 학습데이터를 가명·익명처리하고 개인정보가 입력되거나 출력되지 않도록 필터를 두며 접근권한을 관리하는 방식 등이 예시로 제시됐다.

시스템 적용·관리 단계에서는 AI 서비스를 배포하기 전후로 개인정보가 새는지 계속 확인하도록 했다. 사고가 났을 때 대응체계도 마련해야 한다. 국민이 자신의 개인정보 열람, 정정·삭제, 처리정지를 요구할 수 있는 절차도 갖추도록 했다.

◆위험 클수록 더 엄격하게…AI 활용 유형별 보호조치는?

개인정보위는 공공 AI 활용 방식을 위험 수준에 따라 ▲기초 업무 보조 ▲정보 연계·분석·추천 ▲선별·판단 등 3가지로 나눴다.

자료 요약, 검색, 챗봇 상담처럼 업무를 돕는 AI는 허용되는 사용 범위와 금지되는 사용 범위를 기관 내부에서 분명히 정하도록 했다.

개인정보위는 여러 데이터베이스와 시스템을 연결해 맞춤형 정보를 분석하거나 추천하는 AI에 대해 더 주의해야 한다고 강조했다. 개인정보가 원래 목적과 다르게 쓰이거나, AI가 여러 정보를 조합해 민감한 내용을 지나치게 추론할 수 있기 때문이다. 이에 외부 데이터베이스를 연결할 때 법적 근거를 확인하고, 분석되는 정보도 필요한 범위로 제한하도록 했다.

또 행정 수혜자 선별이나 위험 탐지처럼 공공 의사결정에 직접 쓰이는 AI는 더 엄격히 관리해야 한다고 전했다. 개인정보위는 AI 도입이 꼭 필요한지, 효과가 있는지, 법적 근거가 있는지 면밀히 확인하도록 했다.

또 AI의 편향이나 부정확한 판단으로 국민 권리가 침해되지 않도록 데이터의 정확성과 대표성, 시스템 성능을 계속 점검하도록 했다.

자동화된 결정에 해당하는 경우에는 국민이 결정을 거부하거나 설명을 요구하고 사람이 다시 검토하도록 요청할 수 있는 절차도 마련해야 한다.

각 공공기관은 기관장, 개인정보 보호책임자(CPO), 최고인공지능책임자(CAIO) 등을 중심으로 개인정보 보호를 공공 AI 도입의 핵심 요소로 반영해야 한다. 개인정보 보호 부서와 AI 도입 부서가 함께 협력하는 체계도 갖춰야 한다.

개인정보위는 공공기관의 애로사항을 지원하기 위해 '공공 AX 프라이버시 헬프데스크'를 상시 운영한다. 공공기관 문의와 사업 특성에 따라 법령 해석, 사전적정성 검토, 가명정보 처리 지원, 규제 샌드박스 등 필요한 제도와 연결하는 창구다.

송경희 개인정보위원장은 "공공 AX는 국민에게 더 빠르고 편리한 서비스를 제공하고 공무원이 보다 효율적으로 일할 수 있도록 하는 정부 혁신의 핵심 수단"이라고 말했다.

이어 "공공기관이 프라이버시에 대한 불확실성 때문에 혁신을 주저하지 않도록 구체적인 기준과 실무적 해결방안을 제공하고, 공공 AX가 안전하고 신뢰할 수 있는 방식으로 확산될 수 있도록 적극 지원하겠다"고 밝혔다.

◎공감언론 뉴시스 alpaca@newsis.com ...