AI 기술 발표한 페이스북…VR 광고 테스트도

AI를 이용해 가짜 인물 사진을 합성하는 딥페이크(DeepFake)는 가짜뉴스에 이용되기 쉽고 복수 성인물 피해가 나오는 등 문제시되는 기술이다. 딥페이크 기술이 발전하면서 딥페이크를 분별하는 기술 필요성도 높아지고 있다. 그런데 이런 방법 중 하나로 페이스북이 새롭게 딥페이크를 만든 AI 모델 특징을 결정하는 기술을 개발 중이라고 밝혔다.

2018년 이후 AI로 유명 여배우 얼굴을 기계학습시켜 기존 성인물 영상과 결합해 마치 본인이 출연한 것처럼 만든 가짜 영상이 쏟아졌다. 이후 기계학습 도구를 이용해 실존하는 인간 이미지나 영상을 생성하는 기술은 눈부신 발전을 거듭하고 있으며 사람들에게 정신적 피해를 입히는 사례가 다발하는 문제가 나오고 있다. 따라서 규제를 도입하는 지역도 존재하고 있다.

AI에 의해 정밀한 가짜 이미지를 생성하는 게 가능하게 되면서 정보 신뢰도가 크게 손상되는 문제도 있다. 가짜 성인물 외에 마크 주커버그 페이스북 CEO와 트럼프 전 대통령 등 유명 인사의 딥페이크를 만들어 실제하지 않는 발언이나 사건을 꾸며낼 수 있기 때문이다. 딥페이크 대상이 공적 인물일수록 영향은 더 커진다.

이 때문에 최근에는 가짜 이미지와 가짜 영상을 판별할 수 있는 기술 개발도 시급하다. 새롭게 페이스북이 발표한 딥페이크를 리버스 엔지니어링하는 방법은 AI가 생성한 이미지를 분석해 이미지를 생성한 기계학습 모델 특징을 결정하는 것.

과거 연구에서도 가짜 이미지에서 알려진 기계학습 모델을 특정할 수 있었다. 하지만 페이스북 측에 따르면 딥페이크 소프트웨어는 쉽게 사용자 정의가 가능하다. 따라서 딥페이크 생성물은 흔적을 지우기 위해 모델을 사용자 정의할 수 있다. 한편 페이스북이 발표한 새로운 방법은 지금까지 발표되지 않은 기계학습 모델도 생성 이미지에서 특징을 잡아낼 수 있는 게 포인트다.

페이스북이 내놓은 새로운 기술은 여러 곳에 올려진 이미지 작성자가 동일하다는 걸 간파하는 것 외에 용의자 PC가 압수됐을 때 범인이라는 증거를 보여줄 수 있다고 여겨지고 있다. 하지만 이 기술은 아직 연구 단계인 점에 주의가 필요하다. 물론 보도에 따르면 2020년 열린 딥페이크 감지 대회에서 우승한 알고리즘 검출율이 65.18%였다는 점을 들어 이런 기술 신뢰성이 충분하지 않다는 지적도 있다. 관련 내용은 이곳에서 확인할 수 있다.

페이스북 AI 연구팀은 또 기존 문장 서체를 변경하거나 사진에 찍혀있는 단어를 위화감 없이 대체할 수 있는 AI인 텍스트스타일브러시(TextStyleBrush)를 개발했다.

텍스트스타일브러시는 사진에 찍힌 단어에서 필체와 서체를 인식해 기존 문장에 적용할 수 있다. 어려운 서체나 다양한 색상을 한 서체도 적용 가능하다. 텍스트스타일브러시는 여러 서체와 흰색 문자, 필기체에 가까운 서체까지 모방할 수 있다. 또 미리 입력해놓은 문장에 서체를 적용할 뿐 아니라 촬영한 사진에 찍히는 단어를 서체를 유지하면서 대체할 수 있다.

페이스북은 텍스트스타일브러시는 연구 중인 AI지만 미래에는 이미지에서 텍스트를 다른 언어로 번역하거나 증강현실을 이용해 도로 표지판 언어화를 촉진하거나 하는 등 다양한 용도에 이용할 수 있다고 설명하고 있다. 관련 내용은 이곳에서 확인할 수 있다.

한편 페이스북은 자사의 가상현실 기기인 오큘러스 퀘스트(Oculus Quest) 플랫폼에서 광고 테스트를 시작한다고 발표했다. 광고는 앞으로 몇 주 안에 가상현실 게임이 블래스톤(Blaston)을 비롯한 여러 앱에서 표시된다.

페이스북 산하 오큘러스VR은 2019년 가상현실 장치 데이터를 광고에 이용한다고 개인 정보 보호 정책을 바꿨다. 2021년 5월에는 모바일앱에서 광고 확장을 발표했지만 실제로 가상현실 플랫폼에 광고를 게재하는 건 이번이 처음이다. 오큘러스VR은 블로그에서 광고 테스트가 시작되고 개발자와 커뮤니티 피드백을 도입한 뒤 언제쯤부터 오큘러스 플랫폼과 모바일앱 광고가 전면적으로 시작될지 정보를 발표할 것이라고 밝혔다.

페이스북과 오큘러스VR에 따르면 가상현실에서도 페이습북 앱 등과 마찬가지로 특정 광고를 차단하는 등 설정이 가능하다고 한다. 또 사용자 정보 수집과 분석은 기존 페이스북 광고 정책에 입각해 이뤄진다. 오큘러스 헤드셋 카메라가 촬영한 사진이나 피트니스 추적기 오큘러스 무브(Oculus Move)로 얻은 체중, 신장 같은 생체 정보는 장치에만 남아 페이스북 서버에는 전송되지 않는다고 설명했다. 또 페이스북 음성 길잡이가 기록된 데이터와 장치가 기록한 움직임 데이터를 광고 타깃팅에 사용할 계획은 없다고 밝혔다.

페이스북은 발표에서 광고 확장 목적이 개발자가 수익을 창출할 새로운 방법을 만들기 위한 것이라고 강조하고 있다. 페이스북이 지금까지 오큘러스 앱 정책에서 타사 광고 서비스를 사용하는 걸 금지하고 있어 개발자 측 수익 창출이 차단되어 있었지만 이번 테스트에 따라 상황이 바뀌게 됐다. 가상현실은 TV와 우베사이트를 매체로 하는 기존 광고와는 다른 강력한 광고 경험을 사용자에게 제공할 수 있다. 영화나 드라마 광고, 물리적 제품 광고 등을 생각해도 마찬가지다. 광고를 가상현실 플랫폼에 통합하는 건 개발자가 페이스북 생태계에서 일하는 상당히 큰 인센티브가 될 수 있다. 관련 내용은 이곳에서 확인할 수 있다.