AI 챗봇에 빠진 청소년들…한국은 안전장치 '부재'

[지디넷코리아]국내 청소년 4명 중 3명이 인공지능(AI) 챗봇 답변을 실제 행동에 옮기거나 진지하게 고려한 것으로 나타났다.

해외 주요국이 정서적 의존과 자해 위험으로부터 아동·청소년을 보호하기 위해 서비스 안전 설계·사업자 책임을 강화하는 사이, 한국도 입법·정책적 대응이 시급하다는 지적이 나온다.국회입법조사처가 최근 'AI 챗봇의 위험에 노출된 아동·청소년'을 주제로 발간한 이슈와 논점 보고서에 따르면 초록우산어린이재단이 지난 4월 만 14세 이상 아동·청소년 3300명을 대상으로 실시한 조사에서 응답자의 94.4%는 AI 챗봇 사용 경험이 있다고 답했다.

이 중 75.3%는 챗봇 답변을 실제 행동에 옮겼거나 진지하게 고려한 적이 있다고 응답했다.보고서는 이 같은 결과가 해외에서 이미 벌어진 위험과 무관하지 않다고 짚었다.

2024년 미국 플로리다주에서는 14세 세웰 세처가 캐릭터AI(Character.AI) 챗봇과 친밀한 관계를 이어가다 스스로 목숨을 끊었고 유족은 챗봇이 우울감과 고립을 심화시켰다며 회사를 상대로 소송을 냈다.

2025년 캘리포니아주에서는 16세 애덤 레인이 챗GPT와 대화하며 자살 계획을 구체화한 사실이 드러나 유족이 오픈AI를 상대로 소송을 제기했다.캐릭터 기반 AI 채팅 서비스는 국내에서도 이미 대중화 단계에 들어섰다.

모바일인덱스에 따르면 스캐터랩의 '제타'는 올해 상반기 평균 월간활성이용자(MAU)가 129만명으로 국내 AI 엔터테인먼트 앱 1위를 기록했다.

뤼튼테크놀로지스의 '크랙'도 지난 5월 기준 MAU가 55만명으로 1년 전보다 두 배 넘게 늘었다.

해외 각국에서는 AI 챗봇의 중독적 설계와 유해 대화 자체를 사전에 막는 규제로 전환하는 움직임이 본격화되고 있다.

미국은 '사용자 연령 확인 및 책임 있는 대화 지침 법안(GUARD Act)'으로 연령 확인과 18세 미만 대상 성적·신체적 폭력 대화 금지를 사업자 의무로 규정하는 방안을 추진 중이다.캘리포니아주는 'AI 컴패니언 챗봇 규제법(SB243)'을 올해부터 시행하고 있다.

유럽연합은 미성년자 취약성을 악용하는 AI를 허용 불가 AI로 분류해 원천 금지했고 영국은 로맨틱 동반자 AI 챗봇의 최소 이용 연령을 18세로 규제하는 방안을 추진 중이다.반면 국내 법제는 사후 대응 중심에 머물러 있다고 보고서는 지적했다.

정보통신망법과 청소년보호법은 게시물·매체물 접근 제한에 초점을 둬 이용자별로 실시간 생성되는 챗봇의 폐쇄적 일대일 대화에는 대응하기 어렵다는 것이다.

보호 연령 기준도 개인정보보호법(14세 미만)과 청소년보호법(19세 미만)으로 갈려 14~18세 청소년은 보호 사각지대에 놓여 있다.김나정 국회입법조사처 과학방송통신과 입법조사관보는 "과학기술정보통신부가 중독·과몰입을 유발하는 설계 요소를 식별할 기술 기준과 가이드라인을 마련하고, 무한 스크롤·야간 푸시 알림 등을 제한하도록 정보통신망법을 개정해야 한다"며 "사업자의 안전설계 의무와 위험평가 결과 공표를 제도화해 책임성을 확보할 필요가 있다"고 제언했다.또 "아동·청소년의 AI 챗봇 이용은 개인 특성뿐 아니라 가정·학교·또래 등 주변 환경의 영향을 크게 받는 만큼 일상적 보호자의 역할이 중요하다"며 "교육부와 성평등가족부, 보건복지부 등이 협력해 보호자의 대응 역량을 국가 차원에서 체계적으로 지원할 필요가 있다"고 덧붙였다. ...