불법적인 얼굴 인식 막는 AI 모델 개발됐다

조지아 공과대학 연구자가 얼굴 사진에 특수한 프라이버시 마스크를 적용해 얼굴을 스캔할 때 얼굴 사진을 특정할 수 없게 하는 기술인 카멜레온(Chameleon)을 개발했다.

아이폰 페이스I처럼 얼굴 인식 기술은 일상생활에서 당연한 게 됐다. 하지만 허가 없이 얼굴을 스캔하고 인터넷에 존재하는 얼굴 사진을 검색해 특정하는 사례가 증가하고 있으며 이는 스토킹이나 사기로 이어질 가능성조차 있다.

이런 불법적인 얼굴 인식을 막기 위해 조지아 공과대학 연구자가 개발한 AI 모델이 바로 카멜레온이다. 카멜레온은 얼굴 사진에 프라이버시 마스크라 불리는 편집을 가해 얼굴 인식을 어렵게 만드는 기술이다.

카멜레온은 인간 얼굴 사진 몇 장을 바탕으로 P-3 마스크라는 프라이버시 마스크를 생성한다. 이 마스크를 적용한 얼굴 사진은 본인과 더 이상 연결되지 않으며 누군가가 본인 얼굴을 스캔해도 얼굴 사진을 특정할 수 없게 된다.

이미지에 프라이버시 마스크를 적용하는 기술은 새로운 건 아니지만 기존 기술은 종종 이미지가 흐릿해지거나 화질이 저하되는 단점이 있었다. 카멜레온은 이런 단점을 극복할 몇 가지 특징을 갖고 있다.

첫째 한 사람마다 P-3 마스크 하나를 생성한다는 점이다. 기존 기술에서는 사진 한 장당 하나씩 프라이버시 마스크를 생성했지만 이는 비효율적이었다. 프라이버시 마스크를 사람마다 생성해 프라이버시를 즉시 보호하고 제한된 컴퓨팅 자원을 효율적으로 사용할 수 있게 한다.

둘째 지각 최적화라 불리는 최적화 기법. 이는 프라이버시 마스크를 추가해 발생하는 이미지 품질 저하를 자동으로 방지하고 품질을 유지하는 역할을 한다.

연구팀은 카멜레온과 같이 프라이버시를 보호하면서 데이터 공유와 분석을 수행하는 기술은 AI 거버넌스와 책임 있는 사용을 촉진하고 과학과 혁신을 자극하는 데 도움이 된다고 말했다.

이어 생성형 AI 모델 학습에 사용되는 이미지를 보호하기 위해 카멜레온을 적용하고 싶다며 이미지가 동의 없이 학습되는 걸 방지할 수 있다며 카멜레온을 얼굴 사진 보호 이외 영역에도 사용하고 싶다는 희망을 나타냈다. 관련 내용은 이곳에서 확인할 수 있다.