"오픈소스 AI, 생물·핵 분야 위험한 능력 갖출 수도"…구글 AI 수장, 美 감시기구 제안

[서울=뉴시스]박영환 기자 = 구글 산하 인공지능(AI) 연구조직인 구글 딥마인드를 이끄는 데미스 하사비스 최고경영자(CEO)가 최첨단 AI 모델을 출시 전에 검증할 미국 주도의 심사기구를 만들자고 제안했다. 그는 AI 모델이 초래할 위험이 심각하다고 판단되면 이 기구가 최첨단 AI 개발사들이 함께 개발 속도를 늦추도록 조율할 수 있다고 밝혔다. 하사비스는 현재 드러난 AI의 사이버 보안 위험을 ‘전조’로 규정하면서, 앞으로 18개월 안에 사이버 공격 역량뿐 아니라 훨씬 심각한 생물·핵 분야의 위험한 능력까지 어느 정부도 통제하기 어려운 오픈소스 모델에 담길 수 있다고 경고했다.

미 인터넷매체 액시오스는 14일(현지시간) 하사비스가 단독 인터뷰와 이날 발표한 ‘최첨단 AI 규제 구상과 새 시대의 여명’이라는 글을 통해 이 같은 구상을 공개했다고 보도했다. 구글 딥마인드 공동창업자인 하사비스는 AI를 활용한 단백질 구조 예측 연구의 공로로 노벨 화학상을 받은 과학자다.

하사비스가 경고한 위험은 오픈소스 모델에만 국한되지 않는다. 그는 주요 AI 기업들이 앞으로 내놓을 고성능 폐쇄형 모델도 같은 위험을 안고 있다고 설명했다. 폐쇄형 모델은 소스코드를 공개하지 않는 모델을 뜻한다.

하사비스가 제안한 것은 미국 금융산업규제기구(FINRA)와 비슷한 AI 표준기구다. FINRA는 증권업계 회원사들이 낸 회비로 운영되는 민간 자율규제기구지만 미 증권거래위원회(SEC)의 감독을 받으며 증권사 등을 검사하고 관련 규정을 제정·집행한다.

AI 표준기구는 업계가 운영비 대부분을 부담하고 미국 정부가 감독하는 형태다. 대규모 AI 안전성 시험에 필요한 세계 최고 수준의 기술 전문가와 컴퓨팅 자원을 확보하려면 업계의 상당한 자금 지원이 필요하다는 설명이다.

구상에 따르면 초기에는 개발사가 일정 성능 기준을 넘은 최첨단 AI 모델을 출시 최대 30일 전에 기구에 자율적으로 제출한다. 심사 체계의 효과와 신뢰성이 입증되면 미국 시장에 배포되는 최첨단 모델의 사전 심사를 의무화하자는 구상이다.

검사에서는 모델이 사이버 공격이나 생물학적 위협과 관련해 어떤 능력을 갖췄는지, 안전장치를 우회하려는 시도나 기만 행동의 징후가 있는지 등을 점검한다. 이사회는 튜링상 수상자 등 독립적인 기술 전문가가 과반을 차지하고, 업계와 미국 정부, 오픈소스 진영 관계자도 참여하는 형태로 구성하자는 구상이다.

심사 대상은 개발사의 국적이나 모델 공개 방식이 아니라 성능을 기준으로 결정된다. 외국에서 개발됐거나 오픈소스로 공개된 모델도 기준을 넘으면 심사를 받아야 한다. 성능 기준에 미치지 않는 모델은 스타트업이나 대학이 개발했더라도 심사 대상에서 제외된다.

AI 모델이 초래할 위험이 심각해지면 기구가 최첨단 AI 개발사들이 함께 개발 속도를 늦추도록 조율할 수도 있다. 하사비스는 이를 상황의 심각성에 맞춰 규제 강도를 높이는 방안으로 제시했다.

액시오스에 따르면 하사비스는 구상을 공개하기 전 수개월간 트럼프 행정부와 주요 AI 기업 대표, 유럽 당국자들에게 계획을 설명해 왔다. 그는 트럼프 행정부의 반응이 매우 긍정적이었다며, 가능하면 올해 안에 기구를 가동하는 것이 목표라고 말했다. 다만 이는 하사비스가 제시한 목표일 뿐 미국 정부가 확정한 일정은 아니다.

하사비스는 지난달 벌어진 앤트로픽 AI 모델 차단 사태를 제도화의 필요성을 보여준 계기로 꼽았다. 미국 정부가 클로드 페이블5와 미토스5에 수출통제를 가하자 앤트로픽은 이용자의 국적을 실시간으로 확인할 수 없다며 두 모델의 접근을 전면 중단했다. 수출통제가 해제되기까지 2주 반가량 협상이 이어졌고, 이후 모델별로 접근이 단계적으로 재개됐다.

오픈AI도 같은 사태를 피하기 위해 GPT-5.6 출시 당시 접근 대상을 미국 정부가 검증한 협력사로 제한하기로 합의했다. 이후 상무부와의 협의와 시험을 거쳐 지난주 일반에 공개됐다. 하사비스는 명확한 기준 없이 정부가 즉흥적 지침으로 개별 모델을 통제하는 방식보다 일관된 심사 체계가 필요하다고 강조했다.

앤트로픽의 다리오 아모데이 CEO도 위험한 모델의 출시를 막을 수 있는 미 연방항공청(FAA) 형태의 규제기관을 제안한 바 있다. 제미나이와 클로드를 각각 이끄는 두 회사 수장 모두 미 정부가 AI를 규제해야 한다는 데 동의하지만, 규제 권한을 민관 자율기구와 정부기관 중 어디에 맡길지를 놓고 차이를 보이는 셈이다.

하사비스가 규제 체계 마련을 서두르는 이유는 인간 두뇌의 모든 인지 능력을 갖춘 범용인공지능(AGI)이 불과 몇 년 안에 등장할 수 있다고 보기 때문이다. 그는 인류가 이른바 ‘기술적 특이점’의 초입에 서 있다고 내다봤다. 기술적 특이점은 AI가 인간 지능을 뛰어넘어 문명을 근본적으로 바꾸는 전환점을 뜻한다. 이어 하사비스는 자신의 글에서 “우리는 사실상 모래를 생각하게 만드는 방법을 찾아냈다. 기적이다”라고 썼다. 이는 AI 연산에 쓰이는 반도체의 핵심 재료인 규소가 모래의 주성분인 이산화규소에서 얻어진다는 점에 빗댄 표현으로 풀이된다.

◎공감언론 뉴시스 yunghp@newsis.com ...