얼굴인증 AI 인식 불능 상태 만드는 미세 가공 기술

포크스(Fawkes)는 SNS나 블로그에 올린 얼굴 사진을 제3자에게 마음대로 수집된 개인 정보와 함께 프로파일링되는 걸 방지해주는 기술이다. 익명 시위의 상징적 존재인 가이 포크스의 이름을 딴 이 기술을 이용하면 얼굴 사진에 인간은 모를 정도로 미세한 가공을 실시해 얼굴 인증 시스템 AI를 혼란시켜 인식 불능이 되도록 할 수 있다고 한다.

인터넷에 사진을 게재하면 전 세계 누구나 해당 사진에 액세스할 수 있기 때문에 SNS에 얼굴 사진을 올릴 때에는 명심해둘 필요가 있다. 하지만 최근에는 AI 기업이 인터넷에 30억 개 이상 얼굴 사진을 수집하고 개인 정보 등과 함께 경찰에 인계해버린 사례도 보고되고 있기 때문에 AI 발달로 예상하지 않은 방식으로 얼굴 사진이 사용되어버리는 경우가 늘어날 전망이다.

시카도대학 보안 연구 그룹인 샌드랩(SAND Lab)은 개인으로도 AI에 의한 얼굴 사진 수집을 방지할 수 있는 PC와 맥용 소프트웨어인 포크스를 개발했다. 이를 통하면 사람의 눈에는 차이를 몰라도 AI는 사진에 찍힌 게 누군지 전혀 모르게 되어 버리게 할 수 있다. 연구소 측은 실제로 마이크로소프트 애저 페이스 API(Azure Face API), 아마존 레코그니션(Rekognition), 중국 공안 당국도 사용하는 페이스++(Face ++) 등 첨단 얼굴 인식 기술로 포크스 효과를 검증한 결과 100% 확률로 정확한 인식을 할 수 없게 되어버린 걸 확인했다고 한다.

연구소 측은 포크스 구조에 대해 딥러닝은 입력 데이터에 약간의 변화만 있어도 데이터 분류 과정이 크게 바뀌어 버리는 적대적 샘플 현상이 있다며 포크스의 기본 구조는 적대적 샘플이 발생하는 것과 같은 메커니즘을 이용한 것이라고 설명했다. 또 포크스는 개인도 PC를 통해 이용할 수 있다. 연구소 측은 깃허브에 소스 코드도 공개하고 있으며 공식 사이트를 통해 윈도와 맥용 실행 파일을 공개하고 있다.

연구소 측은 앞으로 포크스 보호 기능이 실제로 유효한지 검증하기 위한 프로그램을 준비하고 있다고 한다. 관련 내용은 이곳에서 확인할 수 있다.