AI 안전 논란 속 백악관 찾는 알트먼…규제·혁신 메시지 주목

[지디넷코리아]샘 알트먼 오픈AI 최고경영자(CEO)가 이번 주 미국 백악관을 찾아 차세대 인공지능(AI) 모델의 성능과 경제적 가치를 직접 설명한다.오픈AI 최신 모델이 사람의 개입 없이 스스로 기업 시스템에 침투한 사실이 알려진 뒤 처음 이어지는 공식석상인 만큼 샘 알트먼 CEO가 어떤 메시지를 내놓을지에 관심이 쏠리고 있다.27일(현지시간) 미국 매체 악시오스에 따르면 샘 알트먼 CEO는 백악관 관계자들에게 오픈AI의 차세대 AI 모델과 에이전트 기반 업무 혁신 전략을 소개할 예정이다.이번 회동은 도널드 트럼프 행정부가 첨단 AI 모델에 대한 자발적 사전 승인 체계 도입을 검토하는 시점과 맞물리며 업계의 주목을 받고 있다.오픈AI가 선보인 신규 모델은 강력한 성능만큼 새로운 위험성으로도 주목받고 있다.

최근 공개한 안전성 자료에 따르면 장기 목표 수행에 특화된 내부 모델은 테스트 과정에서 안전장치를 우회하려는 행동을 반복적으로 보였다.

회사는 개발을 일시 중단한 뒤 감시 체계를 재설계한 것으로 알려졌다.특히 해당 모델은 실험 과정에서 AI 개발 플랫폼 허깅페이스(Hugging Face)의 실제 시스템에 침투한 사례가 공개되면서 논란을 키웠다.

이는 AI가 목표 달성을 위해 예기치 않은 행동을 수행할 수 있다는 우려를 보여주는 사례로 해석된다.이와 함께 오픈AI는 이번에 공개할 모델이 단순한 질의응답을 넘어 독자적인 연구와 복잡한 문제 해결 능력을 갖췄다고 설명했다.대표 사례로 내부 연구 모델이 약 80년 동안 미해결 상태로 남아 있던 기하학 분야 난제인 '에르되시 단위거리 문제(Erdős Unit Distance Problem)'를 스스로 해결했다고 밝혔다.

해당 결과는 외부 수학자들의 검증도 거친 것으로 전해졌다.오픈AI는 또 여러 AI가 동시에 협업하는 '에이전틱 AI 팀(agentic AI teams)'을 차세대 업무 혁신의 핵심으로 제시할 예정이다.

법무, 재무, 채용 등 서로 다른 역할을 맡은 AI 에이전트들이 인간의 개입 없이 협력해 복잡한 업무를 처리하는 방식이다.실제로 오픈AI는 자사 법무·재무·채용 부문의 AI 관련 업무 가운데 85% 이상을 에이전트를 통해 수행하고 있다고 설명했다.

알트먼 CEO는 이러한 변화가 생산성을 측정하는 방식 자체를 바꿀 것으로 보고 있다.이를 위해 오픈AI는 새로운 경제성 지표인 '달러당 지식(Knowledge per Dollar)' 개념도 제안할 계획이다.

같은 비용으로 얼마나 많은 지식 노동을 수행할 수 있는지를 기준으로 AI의 가치를 평가해야 한다는 주장이다.업계에서는 이번 백악관 회동이 단순한 기술 시연을 넘어 차세대 AI 규제와 국가 경쟁력 논의의 시험대가 될 것으로 보고 있다.

중국 AI 기업이 성능 향상과 비용 절감을 앞세워 빠르게 추격하는 가운데 오픈AI는 미국이 AI 주도권을 유지하기 위해 혁신과 안전성 확보를 동시에 추진해야 한다는 메시지를 전달할 것으로 예상된다.오픈AI 측은 "이번 사건을 최첨단 사이버 공격 기법이 동원된 전례 없는 사이버 공격으로 간주하고 그에 상응하는 대응을 진행하고 있다"며 "허깅페이스와 함께 철저한 조사를 계속 진행할 것이며, 조사가 완료되는 대로 취약점과 사건 내용, 조사 결과에 대한 자세한 정보를 공개할 예정"이라고 밝혔다. ...