9명이 열차 사고로 사망했다는 가짜 뉴스를 챗GPT로 작성한 혐의로 중국 공안이 용의자를 체포했다. 이번 사례는 2023년 1월 10일부터 시행된 심층 합성 기술을 규제하는 규칙이 처음 적용된 사례로 보인다.
공안에 따르면 용의자가 작성한 기사는 중국 검색 기업인 바이두가 소유한 블로그 플랫폼에서 20개 이상 계정으로 올라와 1만 5,000회 이상 열람됐다고 한다. 용의자는 플랫폼에 의한 중복 체크를 통과했기 때문에 챗GPT를 이용해 내용이 미묘하게 다른 복수 버전 가짜 뉴스를 작성했다.
중국은 인터넷 콘텐츠를 강하게 규제하고 있으며 AI와 딥페이크도 예외는 아니다. 2023년 1월에는 딥페이크 규제를 포함한 신층 합성 기술 관리 규칙이 시행됐다. 이 규칙에선 가짜 뉴스를 전파하기 위해 기술을 사용해선 안 된다는 걸 위반하는 콘텐츠는 금지, 국가 안전이나 이익을 위험에 빠뜨리는 콘텐츠나 국가 이미지를 해치거나 경제적 혼란을 초래하는 콘텐츠도 금지되어 있다.
참고로 중국에선 중앙정부에 우려를 줄 가능성이 있는 신기술을 관리하는 법률 도입을 목표로 하고 있다고 한다. 관련 내용은 이곳에서 확인할 수 있다.