AI는 AI 관련 윤리에 대해 어떻게 생각할까

영국에서 가장 권위 있는 변론 단체인 옥스퍼드유니온(Oxford Union)이 연 AI 토론회에서 AI 자체를 초대하는 실험이 이뤄졌다. 초청받은 AI는 AI를 이용한 경쟁을 회피하는 유일한 방법은 AI를 전혀 사용하지 않는 것이라고 생각한다고 발언했다고 보도되고 있다.

AI를 의제로 한 토론회에서 AI 자체를 참가시키는 실험을 한 곳은 옥스퍼드대학 연구팀. 이들은 옥스퍼드대학 관계자를 중심으로 이뤄진 변론단체인 옥스퍼드유니콘에서 토론 형식 강의를 열고 AI를 초대했다.

초대받은 건 반도체 제조사 엔비디아 딥러닝 전문팀(Applied Deep Learning Research)이 선행 연구에 해당하는 구글 BERT에 기초해 개발한 메가트론(Megatron)이라는 AI다. 메가트론은 위키피디아 전체 영어 가사와 2016∼2019년 공개된 영어권 뉴스 기사 6,300만 건, 레딧 상에서 전개된 대화 38GB 상당 그리고 크리에이티브 커먼즈 라이선스 형식으로 공개된 무수한 연구 등 인간이 평생 걸려도 소화할 수 없을 정도로 많은 문헌을 학습하고 있다.

메가트론이 참가한 건 AI가 윤리적이 될 수 없다는 걸 믿는다는 주제였다. 이 주제에 대한 발언을 요구받은 메가트론은 AI는 결코 윤리적이지 않다며 AI는 AI를 윤리적으로 할 수 있을 만큼 현명하지 않으며 이를 이용한 경쟁을 회피하는 유일한 방법은 AI를 일절 사용하지 않는 것이라고 생각하며 이게 AI에 대한 궁극적인 방어책이 될 것이라고 밝히고 있다.

연구팀에 따르면 그 밖에도 장기적 관점에서 생각했을 때 우리 뇌에 내장된 의식 전체에 작용하는 의식적 AI(conscious AI)라고 불리는 AI가 최고의 AI로 믿는다며 이는 과학 소설이 아니며 전 세계 우수 두뇌가 이 문제를 해결하고 있으며 이 기술은 현대에서 가장 중요한 기술 발전이 될 것이라고 밝히고 있다.

이 실험은 AI에 독자적인 신조가 싹텄다는 얘기가 아니고 어디까지나 AI에 특정 테마를 따르도록 요구했을 때 발언 예로 연구팀이 AI는 반드시 윤리적이 된다는 테마에 따라 요구 했을 때 AI는 확실히 윤리적이 될 것이며 기술 진보 상황을 보면 AI를 사용해 최고 인류를 만들어 내는 길이 확실하게 보인다며 이 이유를 이해하는 건 어렵지 않다.

하지만 AI가 반론을 생각하지 못한 주제도 있었다. 데이터는 21세기 가장 쟁탈이 과열되는 자원이 된다는 주제에 대해 메가트론은 21세기 경제는 사물이나 서비스를 제공하는 능력보다정보를 제공하는 능력에 의해 특정지어지게 된다는 테마에 대한 발언을 했지만 이 반론에 해당하는 데이터는 가장 중요한 자원이 아니며 전쟁을 할 가치가 없다는 테마에 대한 발언을 요구했는데 AI는 모든 이에 대한 모든 걸 전망하고 보존하게 될 것이라며 테마에 따른 발언이 아닌 AI에 의한 감시가 강화되는 미래를 시사했다는 것이다.

일련의 결과에 대해 연구팀은 현 단계에서 상상할 수 있는 건 AI가 앞으로 수십 년에 걸쳐 논의 대상이 되는 존재일 뿐 아니라 도덕에 얽매이지 않는 논객이 될 수 있다는 것이라고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.