“AI가 맞다고 하던데”… 잘못된 정보로 민원

이달 초 서울의 한 소방서에 “상가 복도에 쌓인 물건이 대피로를 막고 있다”는 민원이 접수됐다.

담당 소방관이 “쉽게 이동 가능한 물건이고 대피로에 여유가 있어서 단속 예외에 해당한다”고 안내하자, 민원인은 “인공지능(AI)에 물어봤는데 처벌 대상이 맞다고 했다”며 따졌다.

민원인이 근거로 삼은 건 AI가 2022년 개정 전 법령을 바탕으로 내놓은 ‘환각’(할루시네이션·오류) 답변이었다.

이 소방관은 결국 야근까지 하며 관련 규정을 일일이 찾아 민원인에게 증명해야 했다.

최근 법률과 정책, 의료 등 전문 분야에서 챗GPT 등 생성형 AI가 내놓은 잘못된 답변을 맹신한 문의가 쏟아지면서 현장 근무자들이 골머리를 앓고 있다.

세부 조건에 따라 적용이 천차만별인데, AI의 환각 현상이나 학습 데이터의 한계를 인지하지 못한 채 무리한 주장을 펴는 경우가 늘고 있기 때문이다.

한국연구재단 부설 정보통신기획평가원에 따르면 주요 AI 모델이 법률 분야 답변에서 환각을 환각으로 감지하는 비율은 ...