지난 3월 16일 선보인 미드저니 V5(Midjourney V5)sms 마치 실사와 같은 초고화질 이미지를 생성하는 게 가능하다. 이런 미드저니 V5를 이용해 도널드 트럼프 전 미국 대통령이 체포됐다는 가짜 이미지를 대량 생성해 트위터에 공개한 사용자가 미드저니로부터 이용 금지 처분을 받았다고 한다.
영국 조사 보도 기관 벨링캣(Bellingcat) 창립자인 엘리엇 하긴스는 3월 21일 현재 형사 고발 중인 트럼프가 실제로 체포될 때까지 트럼프가 체포되는 이미지를 생성햇다며 미드저니 V5를 이용해 마치 트럼프가 실제로 체포에 저항하는 것 같은 이미지나 수감된 것 같은 이미지 50장을 생성해 트위터에 올렸다.
하긴스가 올린 이런 이미지는 인기가 높은 건 520만 회 이상 열렸지만 한 사용자는 하긴스에게 혼란을 방지하기 위해 이미지 생성 AI에 의해 생성된 이미지에는 실제 사진이 아니라는 걸 나타내는 워터마크를 넣어야 한다고 지적하기도 했다.
미드저니는 하긴스가 생성한 이미지가 타인에게 공격적이거나 학대적 이미지 또는 텍스트 프롬프트 사용 금지라는 이용 약관 위반 관점에서 3월 22일 하긴스를 이용 금지로 하는 처분을 내렸다. 또 현재 미드저니에선 체포라는 단어나 도널드 트럼프를 포함한 역대 대통령 이름을 포함한 프롬프트 사용이 금지되고 있다.
보도에 대해 하긴스는 미드저니 V5에선 무엇이 가능하고 얼마나 복잡한 이미지를 생성할 수 있는지 확인하기 위해 다양한 프롬프트를 시도한 결과라고 말한다. 그는 또 게시한 이미지에 대해 이미지에 대한 반응 대부분은 긍정적이지만 일부 트럼프 지지자의 분노를 사고 있다고 덧붙였다.
그는 또 이번 게시물에서 가장 인상적이었던 건 많은 이들이 미드저니 같은 이미지 생성 AI 존재와 기능을 몰랐다는 것이라며 자신의 게시물에서 이미지 생성 AI는 어떤 종류 이미지를 위조할 수 있는지에 대해 사람들에게 잘 알려져 있다고 밝혔다. 또 유명인을 이용해 생성한 가짜 이미지로 이용 금지 처분을 받는다면 이미지 생성 AI는 왜 유명인 데이터세트를 이용해 학습하고 있는 것이냐고 지적하기도 했다. 관련 내용은 이곳에서 확인할 수 있다.