인간 사회는 부유한 사람과 가난한 사람간 소득 격차를 메우기 위해 세금 징수와 사회 보장 제도, 공공 사업 등을 통해 부의 재분배를 하고 있지만 재분배 방법에 대해 불평등하다거나 공정하지 않다는 불만이 나오기 쉽다. 영국 인공지능개발기업 딥마인드, 엑스터대학, 옥스퍼드대학 등 연구팀이 발표한 새로운 논문에선 AI가 만든 부의 재분배 시스템이 인간이 만든 시스템보다 많은 지지를 받을 수 있는 것으로 나타났다.
부의 재분배는 계층 고정화를 피하고 공평성을 늘리고 인간 활동에 활력을 가져다주는 것으로 중시된다. 하지만 공정하고 지지를 얻는 재분배 시스템을 고안하는 건 정치학자와 경제학자에게도 어려운 과제다. 연구팀은 사람간 상호작용을 학습 데이터에 통합한 AI에 부의 재분배 시스템을 만들고 얼마나 많은 평가를 받을 수 있는지 조사했다.
연구팀은 AI 에이전트(Democratic AI)를 평가하기 위해 공공재 게임이라고 부르는 투자 연습을 실시했다. 공공재 게임에는 여러 참가자가 갖고 있는 자금을 공공 분야에 얼마나 투자할지 결정하고 투자 자금에 이자가 붙어 참가자에게 재분배된다.
이번 연구에선 인간이 고안한 엄격한 평등주의에 근거한 재분배에 비례해 AI가 만든 HCRM(Human Centered Redistribution Mechanism)이라는 재분배 시스템과 비교했다. HCRM은 인간 플레이어와 가상 에이전트로부터 피드백 데이터를 이용해 딥러닝으로 제작됐다고 한다.
연구팀은 인간이 고안한 3가지 재분배 시스템과 HCRM을 도입한 공공재 게임을 인간 피험자에게 플레이하게 하고 어떤 시스템이 가장 바람직한지 평가받았다. 그 결과 인간이 고안한 재분배 시스템보다 HCRM 쪽 인기가 높은 것으로 나타났다. 연구팀은 AI가 초기 부의 불균형을 시정하는 메커니즘을 발견하고 프리라이더를 제재하고 다수결에 승리하는데 성공했다고 밝혔다.
이번 연구 결과는 AI가 물리학과 생물학 관련 문제 해결 뿐 아니라 공정하고 번영하는 사회 실현 같은 과제에 대해서도 유용한 툴이 될 가능성을 시사하고 있다. 연구팀은 대표자 선출이나 공공 정책 결정, 법적 판결 등에 사용하는 것과 유사한 합의 형성을 위한 민주적 수단을 가치 일치를 위해 이용할 수 있다는 걸 보여준다고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.
참고로 연구팀은 이번에 발표한 AI에 대한 다양한 문제점도 지적하고 있다. 첫째 AI의 가치 일치는 다수결을 기반으로 하기 때문에 원래 민주 사회에 다수결로 지지되는 불평등과 편견이 존재하는 경우 AI가 이런 문제를 더 악화시킬 위험이 있다는 것. 또 실험에선 플레이어에게 HCRM은 AI에 의해 고안됐다는 게 전해지지 않았지만 만일 이 정보를 알렸다면 AI에 대한 불신감으로 투표 행동에 변화가 있었을 수 있다.
연구팀은 이번 결과에 대해 자율적 에이전트가 인간 개입 없이 정책 결정을 내리는 AI 정부에 대한 형태에 대한 지지 표명은 아니라며 이 AI는 잠재적으로 유익한 메커니즘 설계를 위한 연구적 방법론이며 공공 장소에 AI를 전개하는 레시피가 아니라고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.