[횡설수설/김창덕]AI의 ‘속마음’

“절대 흰곰을 생각하지 말라”는 지시를 완벽히 수행할 인간은 없다.

흰곰 생각을 억누를수록 흰곰이 더 뚜렷하게 떠오를 테니까.

인지 심리학에서 말하는 ‘흰곰 효과’다.

인공지능(AI) 역시 마찬가지다.

앤스로픽의 AI 챗봇 ‘클로드’에 “사자는 생각하지 말라”고 지시하면 이후부터 겉으로 표출되는 답변에 ‘사자’는 포함되지 않는다.

하지만 특정 단어를 제외하기 위해 클로드는 어쩔 수 없이 그 단어를 의식할 수밖에 없다.

결국 명령 수행에 실패한 셈이다.

이럴 때 클로드 내부에서 실제 ‘실패’, ‘젠장’ 같은 단어들이 활성화된다고 한다.▷앤스로픽은 이렇게 밖으로 드러나진 않지만, AI 내부에서 발생하는 패턴들을 묶어 ‘J공간’이라고 부르기로 했다.

‘야코비안(Jacobian)’이라는 수학적 도구로 찾아내서 붙인 이름이다.

J공간은 쉽게 말하면 인간의 속내, 속마음 같은 것이다.

클로드는 한 테스트에서 가짜 데이터를 지어냈는데, J공간에서는 ‘가짜’와 ‘조작’이라는 단어가 켜졌다.

클로 ...