“생각의 수고를 덜어드립니다”… AI 해커보다 더 위험한 인간의 순응[맹성현의 AI시대 생존 가이드]

‘미토스’가 일깨운 두 가지 위험 《미국의 인공지능(AI) 기업 앤스로픽이 9일(현지 시간) 자사 최강 모델 ‘미토스’의 민간 공개판인 ‘클로드 페이블 5’를 내놓았다.

이 모델은 컴퓨터 시스템의 약점을 스스로 찾아내 침투에 이르기까지 단계별로 해내는, 말하자면 숙련된 해커에 가까운 능력을 지녔다.

그래서 앤스로픽은 사용자가 소프트웨어 취약점 공격 방법, 악성코드 개발, 생물학적 위험물질 제조 등 민감한 질문을 하면 자동으로 한 수 아래의 구형 모델로 답을 하는 안전장치를 적용해 일반에 공개했다.

빗장을 단단히 걸고 차에 시동을 건 셈이다. 》그런데 공개 사흘 만에 사태가 뒤집혔다.

미국 상무부가 12일 ‘국가안보’를 이유로 외국인은 미국 안에 있든, 밖에 있든 이 모델에 접근하지 못하도록 막으라는 지시를 앤스로픽에 내린 것이다.

앤스로픽의 외국 국적 직원조차 예외가 아니었다.

일부만 골라 막기가 불가능해진 회사는 결국 전 세계 모든 이용자 앞에서 모델의 전원을 내려버렸다.

쓰 ...