최근 발달한 이미지 생성 AI와 대화형 AI는 단순히 이미지와 문장을 생성하고 놀기 위해서뿐만 아니라 다양한 사회적, 정치적 활동에도 이용할 수 있을 가능성이 있다. 그런데 미술 품평회에서 1위를 차지할 만큼 고성능 이미지 생성 AI인 미드저니(Midjourney) 데이비드 홀츠 CEO가 중국 시진핑 국가 주석 이미지를 생성하는 걸 금지하고 있어 기술 기업이 정부 검열을 따르는 위험에 대한 지적이 나오고 있다.
기업마다 이미지 생성 AI는 생성할 수 있는 콘텐츠에 각각 규제를 마련하고 있으며 미드저니는 가이드라인에서 본질적으로 무례하거나 공격적, 난폭한 이미지 생성을 금지하고 있다. 이런 금지 콘텐츠에는 성인 콘텐츠와 폭력적인 콘텐츠가 포함되어 있으며 2023년 3월에는 미드저니를 이용해 도널드 트럼프 전 대통령이 체포된 가짜 이미지를 생성해 트위터에서 공개한 인물이 미드저니로부터 이용 금지 처분을 받았다는 게 밝혀졌다. 이후 미드저니는 비정상적인 수요와 평가판 악용을 이유로 무료 평가판을 중단했다.
보도에 따르면 미드저니는 바이든 미국 대통령과 푸틴 러시아 대통령 이미지를 생성하는 걸 허용하고 있음에도 불구하고 중국 시진핑 주석 이미지를 생성하는 건 금지되어 있다는 것.
이에 대해 홀츠 CEO는 자사는 극적인 문제를 억제학 싶다며 중국에 대한 정치적 풍자는 좋지 않으며 풍자를 생상하는 능력보다 더 중요한 것이라면서 중국 사용자에 대한 액세스를 유지하기 위해 시진핑 주석 이미지 생성을 금지했다고 주장했다. 이 결정에 대해 보도에선 홀츠는 미드저니가 중요하기 때문에 중국 내 사람들이 접근할 수 있도록 아무 것도 해야 한다고 믿고 있다며 이와 동시에 프로그램 중요성은 세계에서 가장 강력한 권위자 중 하나에 대한 기본적인 정치적 표현을 만들 수 없어도 문제없는 정도라고 믿고 있다며 이는 납득할 수 없다고 말한다.
이제 중국 시장은 많은 기술 기업에게 무시할 수 없는 규모이기 때문에 기술 기업 CEO가 중국에 양보하는 것도 무리가 없다. 하지만 중국과 같은 강력한 국가가 시행하는 검열법이 글로벌 기업에 적용된 경우 이 규제가 전 세계에 걸쳐 있을 수 있기 때문에 국가 규제에 따르는 건 더 큰 문제를 일으킨다는 것. 사실 미드저니에서 시진핑 주석 이미지를 생성할 수 없는 건 중국 사용자 뿐 아니라 미국을 포함한 모든 장소 사용자도 시진핑 주석 이미지를 생성할 수 없다.
이게 실제로 의미하는 건 권위주의적인 지도자가 국내에 정치적 언론을 제한하는 억압적인 법률을 적용할 수 있을 뿐 아니라 글로벌 커뮤니티에 대해서도 규칙을 설정할 수 있다며 기술 기업이 한 국가 검열을 지지하는 위험성을 호소하고 있다. 글로벌 기술 기업이 권위주의적 지도자의 억압적 노력을 따르는 건 국내에서 억압적인 정책을 강행하는 게 국외 활동에 대한 억압으로 이어진다는 메시지가 될 수 있다. 현재 미드저니가 생성을 금지하는 국가 지도자는 시진핑 주석이지만 미드저니는 시진핑 만으로 멈출 것인지 알 수 없다.
보도에선 홀츠는 미드저니가 중국에서 이용 가능하다는 건 회사 뿐 아니라 중국민을 지원하게 될 것이라고 주장할지 모르지만 이는 가부장주의적 생각이라고 비판한다. 결국 중국인은 미드저니를 이용해 정부를 비판하고 싶다고 생각할지 모르지만 조소하는 자유보다 더 중요하지 않겠냐고 말한다. 관련 내용은 이곳에서 확인할 수 있다.