전 세계 50여 명 연구자들의 카이스트 보이콧, 약속은 지켜졌나

2026년은 인류 역사에 어떻게 기록될까? 지난 2023년 7월 안토니우 구테흐스 유엔 사무총장이 "2026년까지는 반드시 자율무기를 규제할 국제법을 만들어야 한다"고 호소했던 바로 그 해가 어느새 절반도 남지 않았다.

그 사이 자율무기는 눈앞의 현실이 됐다. 우크라이나와 가자지구의 전장에선 AI가 사람 대신 표적을 선정한다. AI 무기는 더 이상 미래의 영화 속 이야기가 아니다. AI 무기를 통제할 규범을 만들 시간은 턱없이 부족한데, 기술이 전장에 도입되는 속도는 무섭게 빠르다. 이 위험천만한 시차를 바라보며, 또 하나의 약속이 떠올랐다. 8년 전 한국의 한 대학이 세계를 향해 한 약속이다.

카이스트의 약속

2018년 4월 4일, 내로라할 AI·로보틱스 분야의 과학자와 엔지니어 50여 명이 한국과학기술원(카이스트 KAIST, 아래 카이스트)을 보이콧했다. 한화시스템과 공동으로 추진하는 인공지능 무기 연구에 항의해 카이스트와의 관계를 끊겠다고 선언한 것이다.명단에는 현대 딥러닝의 창시자로 인정받는 제프리 힌턴도 있었다.

이들이 문제 삼은 건 카이스트가 한화시스템과 공동 설립한 ' 카이스트 국방 지능형 군집체계 연구센터'다. 당시 카이스트는 센터의 설립 목적을 ▲방위산업 물류 시스템 ▲무인 항법 ▲지능형 항공훈련 시스템 등에 대한 알고리즘 개발이라고 밝혔다.

30여 개국의 50여 명의 연구자들은 공개서한을 통해 카이스트가 인간의 삶에 해를 끼치는 것이 아니라 삶을 개선하는 방향으로 AI 연구에 힘써 달라 당부했다. 학자들은 "카이스트 총장이 '연구센터가 의미 있는 인간의 통제가 없는 자율 무기(autonomous weapons) 개발을 하지 않겠다'는 확약을 하기 전까지 공식적으로 카이스트 어떤 부분과도 협력을 보이콧하겠다"고 했다. 보이콧의 구체적 예로 "카이스트를 방문하지 않고, 카이스트에서 방문자를 받지도 않고, 카이스트와 관련된 연구에 참여하지 않겠다"고 밝혔다.

연구자들의 선언에 카이스트는 즉각 응답했다. 카이스트는 신성철 총장 명의의 이메일과 해명 자료를 통해 "카이스트는 치명적인 자율무기 시스템 및 킬러 로봇 개발에 참여할 의도가 전혀 없음을 다시 한번 분명히 밝힙니다. 카이스트는 인공지능을 포함한 모든 기술 적용에 따르는 윤리적 우려에 대해 깊이 인지하고 있습니다"라고 답했다. 이 응답으로부터 5일 후, 연구자들은 보이콧을 철회했다.

이때의 보이콧은 유엔에서 '킬러로봇'이라 불리는 '자율살상무기체계' 금지 협약 논의가 막 시작되던 시기라는 점에서 상징성이 있었다. 하지만 카이스트에 대한 지속적인 감시나 모니터링이 이후에 작동하지 않아 두고두고 아쉬움이 남는다.

그렇다면 8년 전, "자율무기와 킬러로봇 개발에 참여하지 않겠다"는 카이스트의 약속은 지켜졌을까. 카이스트는 이 약속을 지키지도, 그렇다고 어기지도 않았다. 사실 이 세상의 그 어떤 무기 개발자도, 그 어떤 국가 기관도 자신들이 킬러로봇과 자율무기를 만들고 있다고 인정하지 않는다. 이들은 대개 비슷하게 설명 혹은 변명한다. 알고리즘의 루프(Loop), 즉 표적을 탐지하고 식별해 타격하기까지 반복되는 의사결정 순환 고리 어딘가에 사람이 있고, 최종 결정권은 여전히 인간이 쥐고 있다며 제작을 부인하는 식이다.

전체 내용보기 ...