[신문과 놀자!/피플 in 뉴스]클로드에 ‘AI 헌법’ 가르친 앤스로픽 CEO 아모데이

여러분은 ‘더 강력한 인공지능(AI)을 만드는 것’과 ‘더 안전한 AI를 만드는 것’ 중 무엇이 더 중요하다고 생각하나요.

이 질문을 가장 중요하게 다뤘던 사람이 바로 AI 기업 앤스로픽(Anthropic)의 최고경영자(CEO) 다리오 아모데이(사진)입니다.

아모데이는 1983년 미국 샌프란시스코에서 태어나 어린 시절부터 수학과 과학에 뛰어난 재능을 보였습니다.

프린스턴대에서 ‘신경 회로의 전기생리학’에 관한 주제로 생물물리학 박사학위를 받았습니다.

그는 바이두와 구글에서 AI를 연구한 뒤, 2016년 오픈AI에 합류해 대규모언어모델 GPT-2와 GPT-3 개발의 핵심 연구를 주도했습니다.

생성형 AI의 핵심 기술인 ‘인간 피드백 기반 강화학습(RLHF)’ 연구를 발전시키는 데에도 중요한 역할을 했습니다.

RLHF는 AI가 사람이 선호하는 피드백을 활용해 모델을 학습시키는 기술로, 오늘날 대부분의 AI 챗봇이 이 방식을 사용합니다.

AI를 단순히 똑똑하게 만드는 것을 넘어 ‘사람 ...