재판 증거 영상에 딥페이크 주장 쏟아질 우려

최근에는 AI 발전으로 간단하게 실재 인물이 등장하는 딥페이크 영상이나 음성을 만들 수 있게 됐다. 이런 가운데 전기차 제조사 테슬라 변호인단이 테슬라차 사망 사고에 관한 재판에서 원고가 제출한 음성은 딥페이크 가능성이 있다고 주장하는 사태가 발생해 재판 증거에 대해 이는 딥페이크라고 반박되는 것에 대해 전문가가 우려를 표명하고 있다.

2018년 3월 애플 엔지니어였던 윌터 팬이 테슬라 차량이 일으킨 충돌 사고로 사망했다. 이 사고에 대해 유족은 테슬라 차량 오토파일럿 기능이 오작동했다고 주장해 테슬라에 소송을 걸었지만 테슬라 변호단은 사망자가 충돌 전 스마트폰으로 게임을 했다며 차량 경고를 무시했다고 반론을 펼쳤다.

이 재판에서 유족 변호단은 테슬라 CEO인 일론 머스크가 현 시점 모델S와 모델X는 인간보다 안전하게 자율 주행할 수 있다고 말한 음성을 증거로 제출했다. 이 발언은 2016년 열린 코드 콘퍼런스 인터뷰 중 나온 것으로 이 발언을 포함한 영상도 2016년 6월부터 유튜브 상에 공개되고 있다.

이런 발언에 대해 일론 머스크는 변호단을 통해 문제가 되는 발언을 했는지 기억이 없다고 주장하며 변호단은 일론 머스크가 많은 공인과 마찬가지로 실제로 하지 않은 발언이나 행동을 딥페이크로 날조되는 경우가 많다고 밝혀 증거 영상 신뢰성에 의문을 나타냈다.

변호단 주장에 대해 법원 측은 일론 머스크 CEO가 유명하기 때문에 딥페이크 대상이 되기 쉽고 공적인 발언은 면책 가능성이 있다는 주장은 번거로운 일이라며 일론 머스크 CEO에 대해 해당 발언을 실시했는지 선서한 뒤 증언하도록 명령했다.

판사는 말하자면 머스크나 그와 비슷한 입장인 사람은 공공 장소에서 좋아하는 걸 말하고 기록된 발언이 딥페이크일 가능성을 방패 삼아 책임을 회피할 수 있다며 법원은 테슬라의 이런 방식을 용인하고 전례를 만들고 싶지 않다고 지적했다.

AI 발전으로 상당히 정교한 딥페이크로 만들 수 있기 때문에 다양한 증거에 대해 이건 딥페이크라는 반론이 이뤄질 가능성이 높아지고 있다. 한 전문가는 딥페이크 시대가 되면 누구나 현실을 부정할 수 있을 것으로 우려했다.

일론 머스크가 재판 증거가 된 언동에 대해 딥페이크일지 모른다고 주장한 첫 인물은 아니다. 2020년 1월 발생한 미 연방 의사당 습격 사건에서 체포된 인물 중 2명은 습격에 참가한 증거가 된 영상이 AI에 의해 제작됐을 가능성이 있다고 주장했다. 하지만 이 반론은 재판에서 기각되고 결국 2명 모두 유죄 판결을 받았다.

한 전문가는 2020년 당시에는 증거품에 대해 이는 딥페이크라는 반론이 유효한 사례가 없다고 지적한다. 한편 법원은 관계자가 딥페이크로 만든 증거품을 제출하려고 시도하는 것보다 이 증거품은 딥페이크라고 반론해오는 문제에 대한 대처를 강요당할 것이라고 주장했다. 법원이 이 문제에 대처할 수 있더라도 영향을 받은 배심원이 이게 딥페이크가 아니라는 증거를 달라고 말할 수도 있다. 만일 변호사가 배심원을 유도해 모든 증거에 대해 이게 딥페이크가 아니라는 증거를 내라고 요구한다면 상대방은 증거를 모으기 위해 막대한 시간과 비용을 들여야 할 수 있다. 이 때문에 전문가를 고용하기 위한 충분한 자원을 갖고 있지 않은 사람이라면 법정에서 적정하게 판단될 가능성이 낮아져 버릴 수 있다.

더구나 딥페이크 영향이 법정 밖에도 사람들은 현실 세계에서 일어난 걸 이는 딥페이크라고 부정하기 시작할 우려도 있다. 관련 내용은 이곳에서 확인할 수 있다.