‘AI 거짓말’에 당하지 않게… ‘걸러내는 AI’ 뜬다

이달 13일(현지 시간) 글로벌 회계·컨설팅 기업 KPMG가 인공지능(AI) 활용 실태를 다룬 자체 보고서를 긴급 회수했다.

AI가 사실이 아닌 내용을 그럴듯하게 지어내는 이른바 ‘환각’(할루시네이션) 탓에 보고서 곳곳에 사실이 아닌 내용이 섞여든 사실이 뒤늦게 드러났기 때문이다.

보고서에는 스위스은행 UBS 등 여러 기관의 AI 활용에 대한 허위 내용이 들어 있었다.

AI를 분석한 보고서가 정작 AI가 지어낸 가짜 정보로 얼룩진 것이다.

이 같은 AI 환각 사고가 잇따르자 생성형 AI를 업무에 도입한 기업들은 ‘잘 만드는 AI’ 못지않게 ‘잘 걸러내는 AI’에 주목하고 있다.

AI가 코드 개발·상담·분석 등 핵심 업무로 파고들수록 답의 신뢰성이 중요해진 까닭이다.

생산성은 높이되 부작용은 막기 위해 답변을 다시 점검하는 ‘AI 검증 솔루션’이 기업용 AI 인프라(기반 설비)의 한 축으로 자리 잡고 있다.● 빅테크 클라우드에 붙는 ‘AI 검문소’구글과 마이크로소프트(MS) 등 ...