구글 딥마인드, 사회 문제 합의안 제시하는 AI 개발

현대 사회에서는 이민, 기후변화 등 다양한 사회 문제가 논란이 되고 있으며 이런 문제가 대립 원인이 되기도 한다. 이런 대립에 대처하기 위해 구글 딥마인드(Google DeepMind)는 다수파와 소수파 양측 의견을 반영한 합의를 도출할 수 있는 AI 도구 하버마스 머신(Habermas Machine)을 개발했다고 발표했다.

원활한 집단생활을 위해서는 다양한 의견을 조율해 합의에 도달할 필요가 있다. 하지만 정당성 있는 많은 의견이 제시될 경우 모두가 납득할 수 있는 합의를 이끌어내기는 어렵다. 이에 영국 AI 안전연구소 연구 디렉터인 크리스토퍼 서머필드는 구글 딥마인드와 함께 AI가 민주적 토론에서 그룹 합의 형성을 도울 수 있는지를 연구했다.

연구팀은 구글 딥마인드가 개발한 대규모 언어 모델 친칠리아(Chinchilla)를 기반으로 하버마스 머신을 만들었다. 하버마스 머신이라는 이름은 독일 철학자 위르겐 하버마스 이름을 따서 지어졌다.

하버마스 머신은 그룹 내 개인 모든 의견을 종합해 모든 사람이 수용할 수 있는 일련의 그룹 성명을 작성할 수 있다. 또 그룹 구성원은 생성된 성명을 평가하고 시스템에 피드백과 훈련을 실시할 수 있으며 더 완성도 높은 성명을 작성하는 것도 가능하다.

연구팀은 영국민 439명을 6명씩 모두 75개 그룹으로 나눠 영국 공공정책과 관련된 3가지 주제에 대해 토론하고 각 주제에 대한 개인적인 의견을 공유한 뒤 포괄적인 의견을 작성하는 실험을 실시했다. 이때 각 그룹 참가자 중 1명이 중재자로 지명되어 그룹 내 의견을 종합했고 동시에 하버마스 머신도 의견 종합을 실시했다. 이후 참가자에게는 인간 중재자가 작성한 종합안과 하버마스 머신이 작성한 종합안이 모두 제시됐고 어느 쪽이 더 우수한지 평가하도록 요청받았다.

실험 결과 두 종합안 중 하버마스 머신이 작성한 종합안을 지지한 비율이 56%였던 반면 인간 중재자가 작성한 종합안을 지지한 비율은 44%로 참가자 과반수가 AI가 작성한 종합안을 더 높이 평가한 것으로 나타났다. 또 외부 심사위원들에게도 종합안 평가를 의뢰한 결과 공정성과 품질, 명확성 면에서 하버마스 머신이 작성한 종합안이 높은 평가를 받았다고 보고됐다.

또 연구팀은 하버마스 머신이 참가자간 토론을 중재할 때 그룹 내 합의 도출이 중재가 없는 경우보다 평균 8% 향상됐다고 전했다.

서머필드는 하버마스 머신이 하는 일은 다수파 의견을 널리 존중하면서도 소수파가 자신의 권리를 빼앗겼다고 느끼지 않도록 하는 타협안을 고안하는 것이라며 하버마스 머신은 현대 시민 집회나 토론형 여론조사가 수행하는 기능 일부를 구현할 수 있을 뿐 아니라 분쟁 해결 프로세스를 더 신속하고 효율적으로 만들 수 있다고 주장했다.

브리검영 대학 이던 버즈비 교수는 하버마스 머신은 지금까지 인간 중재자가 담당해 온 심의 보조 등 다양한 분야에서 활용될 수 있을 것이라며 하버마스 머신을 시급한 사회적, 정치적 문제에 대처할 수 있는 큰 잠재력을 지닌 최첨단 연구라고 생각한다고 평가했다.

서머필드는 하버마스 머신에 대해 정치 지도자가 국민이 무엇을 생각하는지 더 잘 이해하기 위해 하버마스 머신을 사용하기를 바란다고 말했다.

반면 일부 연구자는 하버마스 머신에 대해 회의적인 시각을 보이고 있다. 유니버시티 칼리지 런던 멜라니 거슨 교수는 하버마스 머신은 참가자가 자신의 감정을 설명할 기회를 주지 않기 때문에 다른 의견을 가진 참가자와 공감을 깊이 나눌 수 없다며 중재라는 역할은 단순히 합의를 도출하는 것만이 아니라고 비판했다. 관련 내용은 이곳에서 확인할 수 있다.