얼굴 인증 40% 이상 9개 얼굴로 돌파하는 AI?

얼굴 인증 시스템은 스마트폰과 PC 잠금 해제 등 일상 생활 다양한 장소에 침투하고 있다. 그런데 이스라엘 텔아비브 대학 연구팀이 마스터키가 아닌 마스터 페이스를 생성하는 AI를 개발했다고 발표했다. 단지 9개 얼굴로 전체 중 40% 이상 얼굴을 위장해 얼굴 인식을 돌파 가능하다고 보고하고 있다.

이번에 개발한 AI는 엔비디아가 2018년 12월 발표한 적대적생성네트워크 스타일GAN(StyleGAN)을 이용해 다양한 얼굴 인증을 돌파할 수 있는 마스터 페이스를 생성한다는 것. 스타일GAN 뿐 아니라 고차원 블랙박스를 최적화하기 위한 접근으로 LM-MA-ES(Limited-Memory Matrix Adaptation)도 활용하고 있다고 한다.

연구팀이 개발한 AI는 MIT대학이 오픈소스로 공개한 얼굴 이미지 데이터세트인 LFW(Labeled Faces in the Wild)를 이용해 회선신경망 CNN 기반 얼굴 인식 알고리즘(SphereFace, FaceNet, Dlib)에서 테스트했다.

AI는 먼저 다양한 얼굴 데이터에 포함된 가장 일반화된 특징을 찾아 최대한 많은 얼굴이 기울여 얼굴을 생성한다. 먼저 생성한 얼굴로 돌파하지 못한 얼굴 데이터를 상대로 해 가능한 많은 얼굴이 기울여 새로운 얼굴을 생성했다. 이 과정을 반복해 소수 얼굴에서 더 얼굴 인증을 돌파할 수 있게 되는 구조다.

AI 정확성과 테스트 얼굴 인식 알고리즘에 의해 차이는 있었지만 연구팀은 9개 얼굴 사진만으로 40∼60% 얼굴 인증을 돌파할 수 있다고 보고하고 있다. 또 AI는 초기 단계에서 가장 일반화된 특징을 제대로 파악하고 얼굴 이미지를 생성할 수 있어 학습하는 양을 늘려도 시스템 정밀도는 그다지 향상되지 않았다고 한다.

연구팀은 논문에서 이번 결과에서 얼굴 인증 대상 신원 정보가 없는 경우에도 취약하다는 걸 보여줬다며 이는 3개 얼굴 인증 기술 모두 적용되지만 얻어지는 성공률에는 조금 차이가 있다고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.