‘몰라도 아는척’ 이런 AI 없앤다…억지환각 줄이는 기술 개발

AI가 ‘안 들리는데 들린다’, ‘없는데 있다’고 우기는 시대를 끝낼 핵심 기술이 개발됐다.한국과학기술원(KAIST)은 전기및전자공학부 노용만 교수 연구팀이 멀티모달 대형 언어모델(MLLM)의 감각 혼선을 줄이는 두 가지 핵심 기술을 개발했다고 31일 밝혔다.

이번 기술은 카메라와 다양한 센서의 특성을 정확히 이해하도록 하는 기술과 시각·청각 정보가 뒤섞이면서 발생하는 환각을 줄이는 기술로, 별도의 대규모 재학습 없이도 AI의 신뢰성을 크게 높였다.연구팀이 개발한 첫 번째 기술은 AI가 열화상, 깊이 영상, 엑스레이(X-ray) 등 다양한 센서가 담고 있는 물리적 의미를 정확하게 이해하도록 돕는 ‘센서 이해 AI’기술(DNA) 최적화 기법이다.사람은 열화상 화면에서 밝게 보이는 부분이 뜨거운 곳이라는 것을 알지만, 기존 AI는 이를 일반 사진처럼 해석해 단순한 빛으로 착각하기도 했다.

연구팀은 AI가 열과 거리 등 센서가 측정하는 물리 정보를 이해하는 새로운 학습 기술로 어둠 ...