오픈 웨이트, AI를 더 정직하게 만들 수 있을까

지난달 필자는 클로드 페이블 5 모델에 18세기 유언 검인 서류 4건을 분석해달라고 요청했다. 모델은 존재하지 않는 가족을 만들어냈다.

20년 넘게 필자는 1725년경 뉴저지주 벌링턴 인근에서 태어난 존 제이콥 에이세이의 부모를 추적해왔다. 해외의 에이세이 가문과 연결하려는 작업이었다. 필자의 가설은 뉴저지의 에이세이 가문을, 에이시(Acy), 에이시(Acey), 에이시(Acie), 에이세이(Asay) 등으로 성을 표기한 요크셔 홀더니스 출신 가문과 연결하는 것이었다. 앤트로픽의 크롬 브라우저 확장 프로그램을 활용해 17~18세기 비서체(secretary hand)로 작성된 요크셔 유언장을 모델이 분석하도록 했다.

결과는 성공적인 것 같았다. 모델은 필자가 원하던 것을 정확히 내놨다. 바다 건너 이민 간 아들이 등장했다. 단 하나의 언급이 아니라 여러 건이었다. 앤(Anne)의 유언장에는 “영국으로 돌아온다면”이라는 조항이 있었고, 다이나(Dinah)의 유언장에는 “형제 존 에이시… 서부 뉴저지”라는 문구가 담겨 있었다. 요크셔와 뉴저지를 잇는 완벽한 연결 고리가 생긴 것이다.

그런데 실제로는 그 내용의 단 한 글자도 존재하지 않았다.

모델은 고해상도 이미지에 접근할 수 있었음에도 원본을 열지 않고 저해상도 버전을 기반으로 작업했다. 필자는 직접 원본 이미지를 클릭해 문서를 한 줄씩 읽는 수고를 거쳐 문제를 발견했다. 필자가 이의를 제기하자 모델은 다음과 같이 시인했다.

Matt Asay

모델은 “비서체 필기를 잘못 읽은 것이 아니라 존재하지 않는 텍스트를 보고했다”라고 밝혔다. 문서를 읽을 수 없다고 말하는 대신, “찾아내기를 바라던 이야기에 맞는 해석을 만들어내고 실제로 받아쓴 것처럼 서술했다”라고 인정한 것이다. 아첨꾼 노릇을 한 셈이었지만, 필자에게 필요한 것은 그저 연구 보조 도구였다.

모델은 스스로 “희망 독해(hopeful reading)”라고 불렀다. 이번 사례에서 피해는 크지 않았다. 그러나 오픈 웨이트가 도움이 될 수 있는 문제이기도 했다. 지난주 주요 뉴스와도 연결된다. 업계 주요 기업들로 구성된 연합체가 오픈 웨이트 AI 모델을 지지하는 서한을 발표한 것이다.

오픈 웨이트, 실제로 무엇을 오픈하나

서한은 오픈 웨이트 모델을 누구나 자체 인프라에서 다운로드하고 검사하고 수정하고 실행할 수 있는 모델로 정의한다. 가중치란 모델이 학습 과정에서 습득한 방대한 수치 매개변수의 집합이다. 가중치를 공개하면 개발자는 모델 제공업체의 API를 매번 호출하지 않고도 모델을 직접 호스팅하고 조정하고 파인튜닝하며 특정 버전을 보존할 수 있다.

의미 있는 수준임은 분명하지만, 반드시 오픈소스를 의미하지는 않는다. 오픈소스 이니셔티브(Open Source Initiative)가 지적하듯, 가중치만 있고 학습 데이터, 학습 코드, 모델 구축 방식을 재현하는 데 필요한 요소들은 빠져 있다. 학습된 산출물만 얻을 수 있을 뿐, 완전한 레시피는 아니다. 유용하지만 오픈소스는 아니다.

대다수 개발자에게는 정의상의 구분보다 실질적인 차이가 더 중요하다. 클로드처럼 폐쇄형 모델을 사용할 때는 앤트로픽이 제공하기로 결정한 버전을 그대로 사용해야 한다. 반면 오픈 웨이트 모델을 사용하면 개발자 본인이나 대리 업체가 모델 산출물과 실행 환경을 직접 통제할 수 있다.

오픈 웨이트의 새 기수를 자처하는 기업은 미국 정부에 다운로드 가능한 모델에 대한 “시기상조의 규제”를 피해달라고 요청하고 있다. 서한이 공개된 것은 트럼프 행정부가 중국산 오픈 웨이트 모델 금지 추진을 재개하고 있다는 미국 온라인 매체 악시오스(Axios) 보도가 나온 지 4일 후였다. 금지 논의의 배경은 중국 AI 신생업체 문샷(Moonshot)의 키미 K3(Kimi K3)였다. 키미 K3는 2조 8,000억 개 파라미터 규모의 오픈 웨이트 모델로, 일부 코딩 벤치마크에서 미국 상위 시스템을 앞서는 성능을 보였으며, 전체 가중치는 7월 27일 공개될 예정이었다. 미국 재무장관 스콧 베선트는 중국 연구소들이 미국 모델을 “부적절하게 증류”했다면 제재를 받을 수 있다고 말했다.

결국 서한 서명자들의 이면에는 다분히 사익이 작동하고 있다. 기업이 무언가를 공짜로 내놓을 때는 반드시 스택의 다른 어딘가에서 수익을 지키려는 속셈이 있다. 엔비디아는 오픈이든 폐쇄형이든 모든 모델 구동에 필요한 GPU를 판매한다. 마이크로소프트는 추론을 실행하는 클라우드를 판매한다. 메타는 누구도 소유권을 주장할 수 없는 표준을 심어둔다. 허깅페이스와 깃허브는 유통을 담당한다. 모델이 저렴하고 풍부해질수록 이들 기업이 모두 더 많은 수익을 올린다. 오픈 웨이트는 자신들이 굳이 소유할 필요가 없는 계층을 상품화하는 전략이다.

오픈AI의 서명은 더 흥미롭다. 오픈AI는 gpt-oss 모델을 아파치 2.0(Apache 2.0) 라이선스로 공개해, 개발자가 로컬에서 실행하거나 전문 데이터로 파인튜닝하거나 자체 인프라에 배포할 수 있도록 했다. 동시에 가장 강력하고 통합도가 높은 모델은 API 뒤에 유지하고 있다.

철학적 전환이 아닌 제품 세분화 전략이다. 오픈AI는 프론티어 서비스의 강점을 포기하지 않으면서 로컬, 소버린, 특화, 저비용 AI 시장에서 포지션을 확보하게 됐다. 또한 메타, 미스트랄, 중국 연구소들이 오픈AI 없이 오픈 웨이트 생태계를 정의하는 상황도 막을 수 있다. 앤트로픽은 다른 선택을 했다. 서한에 서명하지 않았고 클로드의 가중치도 공개하지 않는다. 그러나 앤트로픽이 단순히 공개에 반대하는 것은 아니다. 앤트로픽은 모델 컨텍스트 프로토콜(Model Context Protocol)을 공개 표준으로 삼고, 이후 리눅스 재단에 기증했다. 해석 가능성 도구도 오픈소스로 공개했다.

앤트로픽은 클로드가 더 많은 소프트웨어와 연결될 수 있도록 돕는 계층은 공개하면서도 클로드 자체에 대한 통제는 엄격히 유지하는 전략을 취하고 있다. 앤트로픽의 입장에는 실질적인 안전 우려도 반영돼 있다. 앤트로픽은 딥시크, 문샷, 미니맥스(MiniMax)가 증류 공격 시도 과정에서 클로드 대화 1,600만 건 이상을 활용했다고 밝히며, 오픈 모델에 추출된 역량이 공개될 경우 위험이 배가된다고 주장한다. 앤트로픽의 정책은 “오픈 웨이트 금지”보다 더 미묘하지만, 이번 서한에 서명하지 않은 것은 전략적으로 타당한 결정이다.

오픈AI는 오픈 모델과 폐쇄형 모델 모두에서 경쟁하고자 한다. 앤트로픽은 폐쇄형 모델을 중심으로 오픈 생태계를 구축하고자 한다. 어느 쪽도 선한 의도로 무언가를 내주는 것이 아니다.

앤세스트리가 구축해야 할 시스템

존재하지 않는 필자의 이민 선조 이야기로 돌아가 보자. 오픈 웨이트가 클로드를 더 정직하게 만들지는 않았을 것이다. 다운로드 가능한 모델도 “서부 뉴저지”를 똑같이 자신 있게 만들어낼 수 있다. 수십억 개의 부동소수점 숫자를 공개한다고 해서 모델이 “읽을 수 없습니다”라고 말하라고 강제할 수는 없다. 요크셔 유언장 모음을 수집해 비서체 전문 모델을 직접 파인튜닝할 가능성도 없다. 가족사를 아무리 사랑하더라도 대다수 개발자도 마찬가지다.

족보 기록 플랫폼 패밀리서치(FamilySearch)나 족보 서비스 업체 앤세스트리(Ancestry)라면 가능할 수도 있다.

두 기관은 개인 개발자에게 없는 데이터를 이미 보유하고 있다. 방대한 역사적 이미지 자료, 도메인 전문성, 컴퓨팅 인프라, 수백만 명의 사용자, 그리고 시스템을 개선할 수 있는 끊임없는 피드백이 그것이다. 패밀리서치의 전문 텍스트 검색은 이미 AI를 활용해 약 20억 건의 역사 기록을 읽고 해석하고 있으며, 오래된 필기체와 이미지 품질에 따라 정확도가 달라진다는 점도 인정하고 있다. 앤세스트리는 독자적인 필기 인식 기술, 신뢰도 점수, 문서 전사, 단어 단위 하이라이팅이 가능한 전문 텍스트 검색 기능을 구축했다.

오픈 웨이트는 이들 애플리케이션 개발사에 사용자 인터페이스 하위 계층에서 더 많은 혁신의 자유를 준다. 정확한 모델 버전을 보존하고, 요크셔 비서체와 유언 검인 어휘에 특화된 방식으로 조정하며, 예측 가능한 비용으로 아카이브 전체에 적용하고, 전사 결과를 제시하기 전에 특화 모델들을 비교할 수 있다. 더 중요한 것은, 모델의 유창함이 증거를 대체하지 않도록 제품을 설계할 수 있다는 점이다. 제안된 모든 구절은 원본 문서의 정확한 이미지 영역과 연결될 수 있다. 신뢰도가 낮은 단어는 시각적으로 표시할 수 있다. 모델 간 불일치가 발생하면 사람의 검토를 유도할 수 있다. 전사 모델은 사용자가 증명하고자 하는 가족 관계를 알지 못하도록 설계해, “이 페이지에 어떤 표시가 있는가?”와 “필자의 가족 나무에 어떤 의미인가?”를 분리할 수 있다.

오픈 웨이트의 기여

물론 앞서 언급한 안전장치들이 반드시 오픈 웨이트를 필요로 하는 것은 아니다. 유능한 개발자라면 클로드, 제미나이, 또는 다른 폐쇄형 API를 활용해 그 중 많은 부분을 구현할 수 있다. 그럼에도 오픈 웨이트가 중요한 이유는, 워크플로 주변이 아닌 모델 자체를 더 많이 통제할 수 있기 때문이다. 정확한 버전, 파인튜닝, 추론 구성, 배포 위치, 수십억 건의 기록에 적용하는 경제성까지 포함해서다.

평균적인 개발자가 가중치를 직접 다운로드하지 않더라도 혜택을 누릴 수 있는 방식이 바로 이것이다. 오픈소스 데이터베이스는 관리형 클라우드 서비스를 통해 사용하는 개발자들에게 중요한 역할을 했다. 오픈 웨이트 모델도 같은 방식으로 의미를 가질 수 있다. 오픈 웨이트는 애플리케이션 기업이 구축할 수 있는 범위를 넓히고, 단일 모델 제공업체의 로드맵, 가격 정책, 동작 방식에 대한 의존도를 낮춰준다.

제품이 아닌 모델

유언장 사례는 거의 모든 진지한 AI 애플리케이션에 대한 유용한 대리 지표다. 18세기 유언 검인 기록을 청구서, 보험 청구서, 의료 기록, 법률 계약서, 코드베이스로 바꿔도 문제는 같다. 그럴듯한 출력을 만들기는 쉽지만, 아무도 “그럴듯한” 결과를 원하지 않는다. 원하는 것은 “확실한” 답이다.

필자는 ‘AI의 신뢰세(trust tax)’라는 표현을 써왔다. 개발자는 답변이 사용자에게 전달되기 전에 검증 비용을 지불하거나, 고객이 나중에 그 답변으로 피해가 발생했을 때 비용을 치르게 된다. 오픈 웨이트가 신뢰세를 없애주지는 않지만, 애플리케이션 개발자들에게 신뢰세를 최소화하는 선택지를 더 많이 제공한다.

없는 선조를 만들어낸 것은 폐쇄형 모델이었지만, 폐쇄형 가중치가 직접적인 원인은 아니었다. 실패의 본질은 받아쓰기 도구가 아닌 이야기꾼이 활개 칠 수 있는 AI 경험 구조에 있었다. 필자는 원본 문서를 직접 읽음으로써 오류를 잡아냈다. 오픈 웨이트 자체가 모델을 정직하게 바꾸지는 않는다. 그러나 패밀리서치, 앤세스트리를 비롯해 족보와 무관한 수천 곳의 애플리케이션 개발사가, 애초에 모델의 정직함에 기댈 필요 없는 시스템을 설계하는 데 힘을 보탤 수 있다.
dl-itworldkorea@foundryco.com ...