브라우저를 통해 파이썬 코드를 직접 실행하고 GPU 등 컴퓨팅 리소스를 이용할 수 있는 구글 온라인 플랫폼 코랩(Colab : Colaboratory)에서 2022년 5월 금지 행위에 딥페이크 만들기가 추가했다고 한다.
딥페이크는 사진과 영상 등 얼굴을 자유롭게 바꾸거나 나이를 바꾸고 입을 자유롭게 움직이게 할 수 있어 사용 분야에 따라선 편리하지만 한편으론 가짜 뉴스 확산이나 복수물 영상 제작에 사용되는 등 이용에 있어 윤리 부족 논쟁이나 우려가 나오고 있기도 하다.
코랩 FAQ에는 원래 제한에 대해 리소스가 보장되지 않고 무제한이 아니며 제한된 변경이 있을 수 있다는 설명이 있다. 웹 서비스 제공, 토렌트 다운로드나 P2P 파일 공유 참여, 원격 데스크톱이나 SSH 사용, 원격 프록시 연결, 암호화폐 채굴, 디도스 공격 실행, 암호 크래킹, 여러 계정을 사용해 액세스와 리소스 사용 제한을 피하는 것 등을 들 수 있다.
지난 5월 24일 동일 페이지에는 이런 금지 행위에 딥페이크 제작이 더해졌다. 코랩에서 딥페이크를 수행하려고 하면 허가되지 않은 코드를 실행할 가능성이 있으며 앞으로 코랩 사용이 제한될 수 있다며 FAQ 금지 행위에 주의해달라는 메시지가 표시된다고 한다. 다만 코드 실행 자체는 할 수 있다고 한다.
한 개발자는 구글이 윤리적 문제를 이유로 딥페이크 제작을 금지한 건 아니라고 봤다. 원래 코랩은 연구원과 데이터 사이언티스트, 학생이 연산 비용이 많이 드는 코드를 실행할 수 있도록 자원을 제공하는 서비스였던 걸 연산 비용이 높은 딥페이크 모델을 만들기 위해 예상치 못한 사용자가 자원을 소비하는 상태가 됐고 이번 조치로 이어졌다는 것이다.
딥페이크와 관련해 많은 사용자가 코랩에서 사전 훈련된 모델을 활용해 고해상도 프로젝트를 빠르게 배포하고 있으며 이번 제한은 딥페이크 세계에서 광범위한 영향을 미칠 것으로 보인다. 관련 내용은 이곳에서 확인할 수 있다.