최근 AI를 이용한 이미지 생성 기술이 비약적인 발전을 이뤘으며 존재하지 않는 인물 얼굴 사진이 SNS 등으로 큰 문제를 일으키기도 했다. 이런 상황에서 미국 연구팀이 현재 신경망에서 생성된 인간 이미지는 동공 모양으로 구별할 수 있다는 연구 결과를 발표했다.
최근에는 적대적 생성 네트워크 GAN이라는 인공지능 알고리즘 발전으로 존재하지 않는 인물 얼굴 사진을 쉽게 만들 수 있게 한 결과 AI가 생성한 얼굴 사진을 프로필에 사용한 봇 계정이 급증했다. 이런 봇 계정은 사기 등에 이용되고 있기 때문에 큰 사회 문제가 되고 있다.
이런 GAN으로 생성된 이미지에 대해 동공 형상으로 구별할 수 있는 논문이 발표된 것. 이 논문에 따르면 보통 인간 동공은 깨끗한 원을 하고 있지만 GAN에서 생성된 동공은 불완전한 원형으로 되어 있다. 동공은 얼굴 각도에 따라 타원형으로 보이기 때문에 연구팀은 동공 모양을 자동으로 추출해 타원형 여부를 평가하는 프로그램을 만들었다. 이 프로그램을 실재하는 인간에 대해 적용한 결과 0.90 이상이라는 높은 점수를 얻을 수 있었다고 한다. 하지만 GAN으로 생성된 인간의 경우 모두 0.90 미만 낮은 점수를 얻을 수 있었다. 이는 동공이 타원형 여부를 수치화해 GAN에서 생성된 이미지를 판독할 가능성을 시사한다.
또 감염 등 안과 질환을 앓고 있는 경우 동공이 일그러진 형상이 될 수밖에 없고 눈이 일부 숨어 있는 경우 판정에 실패할 가능성이 있다고 한다.
논문을 발표한 미국 뉴욕주립대 알바니 캠퍼스 연구팀은 GAN에서 생성된 인간 동공 모양이 무너지는 이유에 대해 생리학적인 제약이 존재하지 않기 때문이라고 지적하고 있다. 관련 내용은 이곳에서 확인할 수 있다.