천문학자가 고안한 AI 딥페이크 식별법

생성 AI 보급에 따라 AI를 사용해 만든 딥페이크를 식별하는 방법이 요구되고 있다. 영국 헐 대학 연구팀은 은하 측정에 사용되는 도구를 활용하여 딥페이크를 식별하는 방법을 개발했다.

연구팀은 인간 눈 반사를 분석하여 딥페이크 이미지를 탐지하는 새로운 방법을 발표했다. 이 연구는 2024년 7월 3주차 영국에서 개최된 2024년 전국 천문학 회의에서 발표됐다.

연구팀이 발표한 딥페이크 탐지 기술은 같은 광원으로 조명된 눈 한 쌍은 보통 좌우 안구에서 유사한 형태 빛 반사를 보여준다는 단순한 원리를 기반으로 한다.

연구팀은 좌우 안구 빛 반사를 자동으로 탐지하기 위한 도구를 개발하고 반사의 형태학적 특징을 지표에 적용해 좌우 안구에서 보이는 빛 반사 유사성을 비교했다고 설명했다. 딥페이크에서는 좌우 안구 빛 반사 형태가 다른 경우가 많다고 한다.

연구팀이 개발한 도구는 천문학에서 사용되는 방법을 응용해 안구에서의 빛 반사를 정량화해 비교한다. 구체적으로는 은하 이미지 빛 분포를 측정할 때 사용되는 지니 계수를 사용해 안구 픽셀 전체에 걸친 반사 균일성을 평가한다. 지니 계수가 0에 가까울수록 빛이 균일하게 분산되어 있음을 나타내고 1에 가까울수록 빛이 픽셀 하나에 집중되어 있음을 나타낸다.

연구팀은 안구에서의 빛 반사 형태 측정 방법과 망원경 이미지에서 은하 형태를 측정하는 데 사용되는 방법을 비교했다며 은하 형태를 측정하려면 중심이 얼마나 콤팩트한지 대칭인지 얼마나 매끄러운지 등을 분석하기 위해 빛 분포를 분석한다고 말했다.

한편 연구팀은 은하 빛 분포를 측정하는 데 사용되는 또 다른 도구인 CAS 파라미터를 이용하는 방법도 검증했지만 이 방법은 딥페이크를 탐지하는 데 그다지 효과적이지 않았다고 한다.

안구에서의 빛 반사 방식으로 딥페이크를 식별하는 기술에 대해 보도에선 이 방법은 AI 모델이 물리적으로 정확한 안구 반사를 재현할 수 있도록 진화하면 작동하지 않을 가능성이 있으며 또 이 기법을 활용하려면 안구를 선명하게 볼 수 있는 고화질 이미지가 필요하다고 지적했다.

또 실제 사진이라도 조명 조건이나 후처리 기술 차이로 인해 안구에서의 빛 반사가 좌우에서 불일치하는 경우도 있어 오탐지가 발생할 위험도 있다고 한다. 하지만 안구에서의 빛 반사를 분석하는 방법은 머리카락 질감, 해부학적 구조, 피부, 배경 일관성 등을 기반으로 딥페이크를 탐지하는 방법보다 더 유용할 가능성이 있다는 지적이다.

연구팀은 이 기술에 대해 거짓 양성이나 거짓 음성이 발생하는 경우가 있어 모든 걸 정확하게 구별할 수 있는 건 아니라면서도 이 방법은 딥페이크를 간파하기 위한 군비 경쟁에서 기초가 되는 공격 계획을 제공해 준다고 말했다. 관련 내용은 이곳에서 확인할 수 있다.