최근에는 스테이블 디퓨전, 미드저니 같은 이미지 생성 AI 개발이 급속하게 진행되고 있어 누구나 간편하게 AI에 의한 콘텐츠 생성을 실행할 수 있는 환경이 갖춰지고 있다. 이런 가운데 중국 정부가 이미지나 영상을 생성할 수 있는 AI에 대해 사용자 실명 등록이나 AI에 의해 생성된 취지 표시를 의무화하는 규칙을 발표했다.
이미지 생성 AI 등 콘텐츠 생성 AI에는 전 세계에서 주목받고 있으며 중국어권에서도 AI를 활용하기 위해 정보가 적극 교환되고 있다. 또 중국 대형 기술 기업인 바이두가 이미지 생성 AI인 ERNIE-ViLG를 개발하는 등 콘텐츠 생성 AI 개발도 활발하게 이뤄지고 있다. 한편 ERNIE-ViLG에선 천안문 사건이나 혁명 등 중국 정부에게 불편한 단어는 차단되고 있는 게 판명되어 있으며 엄격한 중국 정부 검열 영향이 콘텐츠 생성 AI에도 미치고 있다는 게 밝혀졌다.
이런 상황에서 중국 정부는 2022년 12월 11일에 콘텐츠 생성 AI에 관한 새로운 규칙을 발표했다. 발표에서 중국 정부는 콘텐츠 생성 AI는 빠르게 발전하고 있으며 사용자 요구를 충족시키고 사용자 경험을 향상시키고 있다며 하지만 이를 생성해 확산, 타인에게 비방 중상에 이르고 있다면서 콘텐츠 생성 AI 개발 촉진이나 감시 능력 향상에는 규칙 도입이 필요하다고 밝히고 있다.
새로운 규칙 개요를 보면 먼저 콘텐츠 생성 AI 제공자는 사용자 신원 정보를 확인해 콘텐츠 관리를 강화할 필요가 있다. 인간 얼굴이나 현실적인 장면을 생성할 때에는 AI에 의해 생성된 걸 나타내는 마크를 눈에 띄게 표시해야 한다. AI 생성 콘텐츠라는 걸 나타내는 마크는 변조해선 안되며 콘텐츠 생성 AI는 법률과 행정 법규에 의해 금지되는 활동에 사용해선 안 된다. 콘텐츠 생성 AI 제공 사용자는 생성 콘텐츠가 정보 보호 위험을 포함하는 경우 사용자 계정을 정지해야 한다. 이 규칙은 2023년 1월 10일 발효 예정이다. 관련 내용은 이곳에서 확인할 수 있다.