중국 IT 기업인 바이두(Baidu)가 개발한 이미지 생성 AI인 ERNIE-ViLG에 다수 단어를 차단하는 검열 메커니즘이 짜여져 있다고 지적되고 있다. 차단 대상은 시진핑 국가 주석 같은 정치 지도자 이름이나 천안문 사건처럼 중국 내에서 금지시되는 단어다.
이미지 생성 AI는 달리2(DALL・E2), 미드저니(Midjourney), 스테이블 디퓨전(Stable Diffusion) 등 다수다. 다만 어떤 이미지라도 제한 없이 생성해주는 건 아니다. 예를 들어 달리2는 오픈AI 콘텐츠 정책에 따라 누드나 폭력, 정치적 콘텐츠가 제한되며 미드저니는 일부 콘텐츠가 필터링되고 있다.
ERNIE-ViLG는 다수 애니메이션 이미지로 학습하고 있는 것으로 보여지며 애니메이션 등 화상 생성에는 강한 것으로 알려져 있다. 반면 시진핑이나 천안문 사건, 혁명 같은 단어는 차단되는 게 데모를 이용한 검증에서 지적되고 있는 것. 다만 민주주의 등 단어를 통째로 사용하는 건 가능하다고 한다.
참고로 이 검열이 중국 정부에 의한 규제인지 정부 압력을 피하기 위해 자체적으로 실시한 것인지 여부는 알 수 없다. 관련 내용은 이곳에서 확인할 수 있다.