“천재들의 국가 온다”... 550조원 앤트로픽 제국의 설계자: 아모데이②

앤트로픽이 지향하는 가치와 이념은 그들이 채택한 독특한 지배구조에서 드러난다. 인류의 장기적인 이익을 위해 책임감 있게 첨단 AI를 개발하고 유지하는 것을 회사의 공식적인 존립 목적으로 명시하고, 공익 법인(Public Benefit Corporation, PBC) 형태를 취했다.

특히 이사회의 중대한 결정이 거대 투자자나 주주들의 단기적인 재무적 이익에 휘둘리는 것을 원천 차단하기 위해 회사 지배구조 최상단에 ‘장기 이익 신탁(Long-Term Benefit Trust, LTBT)’이라는 독립적인 거버넌스 기구를 설치했다는 점이 가장 큰 특징이다. 이 기구는 재정적 이해관계가 없는 5명의 독립 구성원으로 이뤄져 있으며 인류 전체의 이익에 반하는 회사의 행보를 언제든 거부할 수 있는 강력한 권한을 가진다. 

기술적 측면에서 앤트로픽이 가장 앞세우는 장치는 ‘헌법적 AI(Constitutional AI)’ 시스템이다. 기존의 인간 피드백(RLHF)만으로는 인간의 편견을 답습하거나 교묘한 거짓말, 속임수를 사용하는 AI를 통제하기 어렵다고 판단한 것이다. 

이를 극복하기 위해 세계 인권 선언문 같은 이른바 명시적인 ‘헌법(규칙)’을 AI의 신경망에 깊숙이 각인시키고, AI 스스로 이 헌법적 가치에 따라 자신의 출력값을 끊임없이 검토, 교정, 판단하게 만드는 통제 기술을 도입했다.