중국 인터넷 규제 당국인 CAC가 4월 11일 제너레이티브 AI가 일반 공개될 때에는 사전에 정부 보안 평가에 합격해야 하는 내용 등을 담은 규제법 초안을 발표했다.
CAC가 발표한 새로운 규제 법안에는 중국에서 제너레이티브 AI 서비스를 제공하는 기업은 차별 콘텐츠, 허위 정보, 개인 프라이버시, 지적재산권 침해 콘텐츠를 방지하기 위한 조치를 취할 필요가 있다고 한다.
CAC는 또 기업이 자사 제품이 중국 사회주의적 가치관을 지지하는 것, 정권 전복과 폭력, 성인물을 시사하는 콘텐츠 등 경제 사회 질서를 파괴하는 콘테츠를 생성하지 않는 걸 확인해야 한다고 밝혔다. 기업이 이를 위반하거나 규칙을 따르지 않으면 벌금이나 서비스 정지, 범죄 수사에 직면하게 된다.
중국 규제 당국이 AI 기업 규제 법안 제정을 서두르는 배경에는 중국 내에서 활발해지는 제너레이티브 AI 개발 경쟁이 있다. 오픈AI 챗GPT가 세계적으로 성공을 이후 중국 기업은 챗GPT와 비슷한 AI 개발을 앞당기고 있다.
일반 인공지능에 대한 관심이 높아지면서 중국 당국은 빠르게 발전하는 인공지능이 가져올 위험에 대한 경계심을 강화하게 됐다. 중국 국영미디어는 제너레이티브 AI를 둘러싼 버블과 너무 지나친 과대 광고에 반복적으로 경고를 하고 있으며 일부는 챗GPT가 사용자 도덕적 판단을 높이는 대신 오히려 퇴폐에 경종을 울리는 곳도 있다고 한다.
AI에 대한 우려로 중국중앙은행이 관할하는 중국지부청산협회는 4월 10일 챗GPT 같은 도구를 사용할 때에는 법률과 규제를 준수하고 중요한 기밀 정보를 올리지 않도록 해야 한다고 성명을 발표해 업계 관계자에게 주의를 환기했다.
중국 국외 전문가는 중국 정부 규제와 검열이 AI 기업을 위축시킬 수 있다고 지적하는 목소리가 높아지고 있다. 한 전문가는 과도한 제한, 콘텐츠 규제, 검열은 이런 기술에 대한 상업적 전개와 혁신을 방해할 수 있다고 지적한다. 반면 중국 전문가는 낙관적이다. 홍콩대학 교수는 법률 콘텐츠 요건은 중국 인터넷 기업에 있어 새로운 게 아니기 때문에 이 새로운 규칙 공표가 중국 기업에 가혹한 부담을 강요한다고 생각하지 않는다고 밝혔다.
CAC는 5월 10일까지 규제 법안에 대한 퍼블릭 코멘트를 모집하고 있으며 이후 2023년 중 발효할 전망이라고 한다. 관련 내용은 이곳에서 확인할 수 있다.