이석원 기자
중국 인터넷 규제를 담당하는 중국 사이버공간관리국(CAC)이 디지털 플랫폼이 AI에 의해 생성된 모든 콘텐츠에 라벨을 부착하도록 의무화하는 계획을 발표했다.
사이버공간관리국이 발표한 계획은 플랫폼과 온라인 서비스 제공업체에 AI가 생성한 모든 콘텐츠에 라벨 부착을 의무화하는 것. 부여되는 라벨에는 사용자가 명확히 인식할 수 있는 로고나 음성 안내 등의 명시적 식별자와 콘텐츠 파일 데이터에 추가되는 사용자가 인식할 수 없는 식별자 모두가 포함된다.
AI 생성 콘텐츠가 텍스트인 경우 텍스트 시작이나 끝, 또는 중앙 적절한 위치에 문장으로 설명이나 기호를 추가하는 등의 방법으로 라벨 부착이 필요하다. 또 오디오 파일의 경우 청취자에게 시작 시점이나 종료 시점, 또는 오디오 중간에 음성으로 설명 등이 필요하다고 한다. 이미지나 동영상에도 눈에 띄는 위치에 라벨 부착이 의무화되며 사용자는 이 콘텐츠가 AI에 의해 생성된 것인지 여부를 이해할 수 있도록 해야 한다.
크리에이터는 플랫폼에 AI 생성 콘텐츠를 게시하거나 플랫폼이 제공하는 AI 생성 도구를 사용할 경우 플랫폼 라벨 부착 기능을 사용해야 한다고 한다.
또 게시된 콘텐츠 파일에 AI 생성임을 나타내는 메타데이터가 없더라도 플랫폼이 콘텐츠를 분석한 결과 AI에 의해 생성된 흔적이 발견된 경우 플랫폼 측에서 이 콘텐츠는 AI에 의해 생성된 의혹이 있다고 사용자에게 통지하는 것도 의무화되어 있다.
이번에 사이버공간관리국은 초안에 대한 공개 의견을 구한다고 밝혔다. 하지만 보도에선 중국 규제 당국은 이런 초안이 나온 뒤 큰 변경을 가하려 하지 않는다며 이 초안은 중국 정부가 실시를 희망하는 것일 가능성이 높다고 할 수 있다며 이 초안이 그대로 시행될 수 있다는 견해를 보였다.
보도에선 이런 초안이 중국 정부 인터넷 규제의 전형적인 예라면서도 반드시 나쁜 것만은 아니라고 지적했다. 최근에는 생성 AI 도구 개발자나 지지자가 생성 AI 도구를 사용해 숙련 노동자나 아티스트를 대체하려고 하고 있지만 AI 생성 콘텐츠에 대한 라벨 부착이 의무화되면 그 흐름이 바뀔 가능성도 있다고 한다.
생성 AI에 관한 법 정비는 중국에 국한되지 않고 전 세계 각국에서 진행되고 있다. 미국 캘리포니아주에서도 AI 생성 콘텐츠에 라벨 부여를 의무화하는 AB 3211이라는 법안이 심의 중이다. 이 법안에 대해서는 오픈AI나 마이크로소프트, 어도비, AWS 등이 참여하는 로비 단체도 찬동하고 있다. 관련 내용은 이곳에서 확인할 수 있다.
정용환 기자
이원영 기자
