개발자 2명이 오픈AI 이미지 생성 모델인 달리2(DALL・E2)를 이용해 사용자 입력을 바탕으로 용의자 캐리커처를 만드는 프로그램을 제작했다. 개발자는 보통 2∼3시간이 걸리는 스케치 시간을 단축할 수 있다고 밝혔지만 전문가는 리얼한 게 오히려 수사 방해가 될 가능성을 지적하고 있다.
이들이 개발한 포렌식 스케치 AI티스트(Forensic Sketch AI-rtist)라는 프로그램은 연령과 성별, 피부색, 헤어스타일 등 템플릿에 따라 입력 정보를 달리2에 보내 달리2가 생성한 이미지를 표시한다. 목격자로부터 증언을 바탕으로 용의자 캐리커처를 작성하는 수사 방법을 경찰이 이용할 때 스케치 작성에 걸리는 시간을 단축해줄 것으로 기대되고 있다.
하지만 전문가는 너무 현실적인 캐리커처가 오히려 수사에 악영향을 미칠 가능성이 있다고 지적한다. 전자프런티어재단 관계자에 따르면 인간은 얼굴을 특징하마 기억하는 게 아니라 얼굴 전체를 하나로 기억하고 있다는 것. 이 때문에 개개 특징을 바탕으로 캐리커처를 작성하는 프로그램은 용의자 얼굴과는 현저하게 다른 얼굴을 생성해버릴 가능성이 있다고 한다. 유감스럽게도 목격자가 캐리커처를 보면 기억 속 이미지가 캐리커처로 덮여질 지도 모른다는 지적이다.
또 AI에 의한 이미지 생성이 인종과 선별 편견을 조장해 버릴 가능성도 지적된다. 자연어 처리 관련 오픈소스 라이브러리인 허깅페이스(Hugging Face) 연구원은 일반적으로 인터넷상 유색인종 취급은 상당히 인종 차별적이고 불공평하며 이 바이어스는 AI에 사용되는 데이터세트에도 반영되고 있다면서 기술에 의해 소외되는 건 현재 소외된 그룹이라고 지적했다.
만일 이런 AI가 생성한 캐리커처가 일반적으로 공개될 경우 스테레오 타입이나 인종적 편견을 조장하고 실제 범인이 아닌 스케치와 비슷한 인물에 주의를 돌리게 되어 수사를 방해할 가능성이 있다고 지적한다. 실제로 미국에선 체포 69%가 목격자 증언을 바탕으로 한 신원 확인이 이뤄지고 있다고 한다.
이 프로그램 개발자도 생성된 이미지 정확성을 측정하는 지표가 없다는 걸 인정하고 있다. 이런 불일치는 수시로 수정해야 하며 가능하면 최상의 결과를 얻기 위해 반복 시도해야 한다며 정확한 캐리커처를 공유하려면 책임을 져야 한다고 밝히고 있다.
캐리커처 작성 시간을 단축한다는 이 프로그램에 대해 전자프런티어재단 관계자는 캐리커처 작성에서 문제점은 시간이 걸리는 게 아니라면서 인간의 기억이나 편견이라는 애매한 정보에 의지하는 것이라고 지적하며 이 문제를 해결할 수 없고 이번에 등장한 프로그램은 문제를 더 악화시킬 가능성이 높다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.