테크레시피

中 이미지 생성 AI, 금지시 단어 검열한다

중국 IT 기업인 바이두(Baidu)가 개발한 이미지 생성 AI인 ERNIE-ViLG에 다수 단어를 차단하는 검열 메커니즘이 짜여져 있다고 지적되고 있다. 차단 대상은 시진핑 국가 주석 같은 정치 지도자 이름이나 천안문 사건처럼 중국 내에서 금지시되는 단어다.

이미지 생성 AI는 달리2(DALL・E2), 미드저니(Midjourney), 스테이블 디퓨전(Stable Diffusion) 등 다수다. 다만 어떤 이미지라도 제한 없이 생성해주는 건 아니다. 예를 들어 달리2는 오픈AI 콘텐츠 정책에 따라 누드나 폭력, 정치적 콘텐츠가 제한되며 미드저니는 일부 콘텐츠가 필터링되고 있다.

ERNIE-ViLG는 다수 애니메이션 이미지로 학습하고 있는 것으로 보여지며 애니메이션 등 화상 생성에는 강한 것으로 알려져 있다. 반면 시진핑이나 천안문 사건, 혁명 같은 단어는 차단되는 게 데모를 이용한 검증에서 지적되고 있는 것. 다만 민주주의 등 단어를 통째로 사용하는 건 가능하다고 한다.

참고로 이 검열이 중국 정부에 의한 규제인지 정부 압력을 피하기 위해 자체적으로 실시한 것인지 여부는 알 수 없다. 관련 내용은 이곳에서 확인할 수 있다.

이원영 기자

컴퓨터 전문 월간지인 편집장을 지내고 가격비교쇼핑몰 다나와를 거치며 인터넷 비즈니스 기획 관련 업무를 두루 섭렵했다. 현재는 디지털 IT에 아날로그 감성을 접목해 수작업으로 마우스 패드를 제작 · 판매하는 상상공작소(www.glasspad.co.kr)를 직접 운영하고 있다. 동시에 IT와 기술의 새로운 만남을 즐기는 마음으로 칼럼니스트로도 활동 중이다.

뉴스레터 구독