진짜 같은 AI 생성 이미지 속 2가지 약점

지난 몇 개월 사이 미드저니(Midjourney)나 스테이블 디퓨전(Stable Diffusion), 달리2(DALL-E 2) 같은 AI 이미지 생성 프로그램을 통해 실제로 존재하는 것 같은 초현실적인 가짜 사진을 쉽게 만들 수 있게 됐다.

한 프로그래머는 챗GPT로 프롬프트를 생성하고 이를 기반으로 미드저니를 이용해 이미지를 만들기도 했다. 이를 통해 청소년이 파티에서 즐기는 장면을 인스턴트 카메라로 찍은 느낌 사진을 완성해냈다.

인물 표정은 파티를 만끽하는 것처럼 보이고 어두운 방이나 카메라 플래시 등 진짜가 아닐까 혼란스러울 수 있지만 사실은 모두 AI가 만들어낸 가짜다.

현재 나온 AI는 고품질 이미지를 만들 수 있지만 자세하게 보면 이상한 점이 있다고 한다. 하나는 손가락 끝. 관절을 구부리는 방법이나 손톱 모양, 길이간 균형 등이다. AI는 인간 손가락 묘사에 상당히 어려움을 느끼며 상당한 확률로 손가락 부분만 심령 사진처럼 되기도 한다.

손만 생성한 작품을 살펴보면 극단적인 예지만 조금은 소름끼치는 손가락이 대량 생성된다. AI는 수천, 수억 장에 이르는 사진을 이용해 학습한다. 하지만 인간이 찍은 사진은 상반신은 많지만 이에 비해 손이 찍힌 건 많지 않은 게 이유일 수 있다는 해석이다. 한 전문가는 AI가 해부학적으로 손가락이 어떤 구조이며 손이 무엇인지 이해하지 못한다고 말한다. 골격을 제대로 알지 못하면 메커니즘을 이해하지 못하고 인터넷에서 보는 사진은 사람이 뭔가를 잡고 있거나 사인을 하거나 각도에 따라 손가락 5개가 보이지 않고 관절을 구부리면 짧게 보이기도 한다. 이는 인체 그림에서도 제대로 골격에 대해 이해하고 균형감 있게 그릴 수 있을 때까지 연습이 필요한 것과 같다고 할 수 있다.

또 AI 이미지는 인간 치아도 제대로 이해하지 못하고 있다고 한다. 만일 가짜 이미지를 의심할 때에는 먼저 이 2가지에 주목해 살펴보는 게 좋을 수 있다. 관련 내용은 이곳에서 확인할 수 있다.