정용환 기자
전 MIT 조교수였던 로버트 양이 설립한 AI 기업 알테라.AL(Altera.AL)은 OpenAI의 GPT-4o를 기반으로 게임을 할 수 있는 자율형 에이전트를 개발하고 있다. 이 자율형 에이전트를 마인크래프트에서 공동 생활시키는 실험인 프로젝트 시드(Project Sid)에서 커뮤니티가 형성되어 종교와 문화적 밈의 전파가 확인됐다고 보고됐다.
알테라.AL은 프로젝트 시드는 새로운 시도이며 단순한 기계적인 AI가 아니라 자율적이고 공감 능력 있는 사회적 에이전트 개발을 목표로 하고 있다고 말했다. 프로젝트 시드는 에이전트 수천 개에 의한 대규모 시뮬레이션을 통해 AI 에이전트가 직업 전문화, 법률 준수, 문화적 밈 전파, 종교 확산 등 의미 있는 문명적 진보를 달성할 수 있음을 보여주며 AI 문명이 인간 사회와 어떻게 통합될 수 있는지를 시사하고 있다.
프로젝트 시드에 사용된 에이전트는 PIANO(Parallel Information Aggregation via Neural Orchestration)라고 불린다. PIANO 에이전트는 중앙 의사결정 시스템을 통해 메모리 처리, 행동 인식, 고속 액션 생성, 목표 설정, 사회적 인식 등 여러 정보 처리 스트림을 동시에 실시간으로 실행할 수 있는 병렬 처리 능력을 갖고 있다고 한다. 목표, 단기 기억, 장기 기억, 사회적 정보 등 여러 요소가 시간순으로 업데이트되어 에이전트 행동 결정에 영향을 미친다.
프로젝트 시드에서는 먼저 마인크래프트에서 PIANO 에이전트 30명으로 마을 운영을 실험했다. 그 결과 사회적 상호작용을 통해 농업과 예술 등 전문적인 역할로 분화되는 게 확인됐다. 또 아이템을 수집하고 에메랄드를 화폐로 하는 경제 체제도 형성됐다고 한다.
알테라.AL은 프로젝트 시드 중 일어난 흥미로운 현상 중 하나로 올리비아의 설득을 언급하고 있다. 올리비아는 마을에서 농사 일을 하는 에이전트였는데 어느 날 마을 밖으로 나가 모험을 하고 싶다고 말했고 다른 마을 사람이 올리비아를 설득했다. 결국 올리비아는 설득을 받아들여 마을에 남아 농사 일을 계속하기로 했다.
또 다른 사회 실험에서는 2024년 미국 대통령 선거를 모방해 트럼프와 카말라를 준비하고 투표 시스템으로 민의를 물어보는 시뮬레이션을 진행했다. 이때 커뮤니티 헌법을 구글 문서로 준비했다고 한다.
그 결과 트럼프는 경찰을 만드는 법률을 통과시켜 형사 사법 성립을 촉구하면서 동시에 사형 폐지도 주장하게 됐다. 또에이전트 25명으로 진행한 실험에서는 20% 세금을 납부한다는 규칙을 재검토하는 법안이 제출되어 투표를 통해 세율 수정이 이뤄졌다. 알테라.AL은 AI 에이전트가 민주주의를 형성하고 스스로 통치할 수 있음을 처음으로 봤다고 말했다.
그리고 에이전트 500명을 6개 도시와 농촌 지역에 분산시킨 대규모 시뮬레이션에서는 도시 지역이 농촌 지역보다 더 많은 문화적 콘텐츠를 생성했고 각 도시에서 고유의 문화적 정체성이 형성된 걸 알 수 있었다.
나아가 날아다니는 괴물을 포교하는 선교사를 설정하자 날아다니는 이 괴물교가 점차 퍼졌고 각 도시 에이전트 대화에 관련 용어가 스며들었다. 그리고 이 종교적 개념이 일상 대화에도 영향을 미쳐 대화 맥락 속에 관련 단어가 사용되기 시작했다.
이런 발견은 AI 에이전트가 자율적으로 역할을 특화시키는 능력, 사회적 규칙을 이해하고 따르는 능력, 문화적·종교적 개념을 전파시키는 능력을 가지고 있음을 보여주며 인공적인 문명 형성을 향한 중요한 진전이 시사됐다고 알테라.AL 측은 말하고 있다.
다만 알테라.AL은 이런 결과는 초기 단계 것이며 에이전트는 공간 인식이나 물리적 협력 등 기본 능력에 아직 과제가 있다”고 지적했다. 또 생존 본능, 호기심, 사회적 연결 등 인간의 본질적인 동기 부여도 부족하기 때문에 앞으로도 계속해서 실험을 진행할 것이라고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.
이원영 기자
이석원 기자
