AI 기술 발달로 인간과 유사하게 대화할 수 있는 챗봇이나 위화감이 적은 이미지·영상 생성 기술 등이 탄생하고 있다. 이런 기술과 함께 디지털 유령(digital afterlife)이라는 비즈니스 모델이 등장하고 있다.
생성형 AI가 급속하게 진화하면서 챗봇과의 자연스러운 대화나 콘텐츠 자동 생성 등이 쉽게 이뤄지고 있다. AI는 완전히 가상 인물 사진이나 존재하지 않는 사람 목소리를 생성할 수도 있지만 오픈AI 보이스엔진(Voice Engine)은 15초 음성으로 클론 음성을 생성할 수 있고 구글 브이로거(VLOGGER)는 사진 1장과 음성으로 제스처를 곁들인 실제 같은 영상을 생성할 수 있는 등 실존하는 인물 사진이나 영상을 조작하는 딥페이크도 가능하다. 때론 생성형 AI로 실존하는 여성 딥 누드 제작이 문제가 되기도 한다.
디지털 유령 또는 디지털 사후 비즈니스는 딥페이크와 구조 자체는 동일하다. 고인이 된 사람 SNS에 게시된 내용, 과거 이메일이나 문자 메시지 경향, 음성 녹음 데이터를 사용해 학습, 마치 그 사람과 대화하는 것 같은 디지털 인격을 만들어낸다.
디지털 유령 비즈니스는 실제로 몇 가지 등장하고 있다. 히어애프터(HereAfter)라는 앱은 인터뷰 형식으로 추억을 저장해 사후에 그 사람과 대화할 수 있는 챗봇을 만들 수 있고 마이위시(MyWishes)라는 서비스는 유언장이나 장례 준비 등 미래에 메시지를 전송해 유족에게 전달하는 기능이 있는 등 다양한 형태가 고려되고 있다. 또 홍콩의 로봇 공학 회사인 핸슨로보틱스(Hanson Robotics)는 개인 기억과 성격 특성을 이용해 사람들과 교류하는 흉상 로봇을 개발했다.
이런 기술로 사실적이고 경우에 따라서는 대화도 가능한 사망자 디지털 복사본을 만들 수 있다. 하지만 호주 모나시대 데이터 사이언스 연구자에 따르면 이런 디지털 유령은 조금 섬뜩할 뿐 아니라 구체적인 윤리적, 심리적 우려가 있다고 한다.
사망자에 대한 디지털 복사본과 대화하거나 초상화를 볼 수 있는 기술은 가까운 사람을 잃은 슬픔을 완화시킬 가능성이 있다. 하지만 일부에게는 슬픔을 완화시키기는커녕 악화시킬 가능성도 있다. 케임브리지 대학 연구자가 발표한 디지털 사후 세계 산업에서의 생성형 AI의 책임 있는 적용에 대한 논문에선 디지털 유령 AI가 설계상 안전 기준을 충족하지 못해 심리적 해를 끼칠 가능성이 있다고 지적하고 있다.
또 주요 윤리적 문제로 동의, 자율성, 프라이버시의 우려를 들고 있다. 예를 들어 자신의 글이나 그림 등을 AI 학습에 사용되는 걸 거부하는 크리에이터 호소나 유명인 딥페이크가 악용되는 사례가 종종 문제가 되지만 그 경우 당사자는 피해를 호소할 수 있다. 하지만 사망자는 AI에 학습되는 걸 거부할 수 없기 때문에 자신의 디지털 복사본을 만드는 것에 대한 동의 문제가 수반된다.
또 생전 동의가 있었더라도 악용이나 데이터 조작 위험도 생각할 수 있다. 디지털 유령은 기업이 상품이나 서비스 선전에 이용하거나 고인이 결코 지시하지 않았던 사상이나 행동을 전달하기 위해 변경되는 등 위험성을 피할 수 없다.
급속히 성장하고 있는 이 업계에 관한 우려에 대처하려면 법적 체계를 업데이트할 필요가 있다는 지적이다. 구체적으로는 디지털 유산 중 하나가 될 고인 디지털 복사본을 누가 상속할 것인지 저장된 디지털 인격 소유권이 기업에 귀속되는지 유족에게 귀속되는지 등 문제에 대처할 필요가 있다. EU 일반 데이터 보호 규정(GDPR)에서는 사망자 SNS에 접근하는 건 기본적으로 제한되어 있는 등 사후 프라이버시권을 인정하고 있다. GDPR 해석을 확대하여 어디까지 적용할 것인지, 신중한 규제와 윤리 가이드라인을 실시할 필요성 등 기업과 기술자 및 학회나 정책 입안자가 제대로 대화할 논의의 여지가 많이 남아 있다는 설명이다. 관련 내용은 이곳에서 확인할 수 있다.
한편 최근에는 AI 음성 연구개발 기업인 일레븐랩스(ElevenLabs)가 주디 갈런드와 로렌스 올리비에 등 이미 세상을 떠난 유명 배우 목소리를 활용한 AI 음성으로 책이나 기사 등을 읽어주는 앱 일레븐랩 리더(ElevenLabs Reader)를 발표했다. 모든 스타의 목소리는 자산 관리 단체와 제휴해 생성한 걸 사용하고 있다고 한다.
음성 컬렉션 목록에는 오즈의 마법사에 출연한 주디 갈런드, 에덴의 동쪽이나 이유 없는 반항에 나온 제임스 딘, 햄릿, 전쟁과 평화 등으로 알려진 영국 명배우 로렌스 올리비에, 캐논볼로 알려진 버트 레이놀즈 등이 있다. 회사 측은 이들은 역사상 가장 유명한 배우 중 일부라며 내레이터 목록에 그들을 추가하는 건 모든 언어와 목소리로 콘텐츠에 접근할 수 있게 하는 자사 사명이 크게 진전됐다는 걸 의미한다고 설명했다.
주디 갈런드 딸이자 배우 겸 가수로 활동하는 라이자 미넬리는 어머니 목소리를 수많은 이들에게 전달할 수 있어 기쁘다며 새 기술을 통해 어머니에게 새로운 팬이 생길 것이라 믿으며 어머니가 세상에 준 업적을 이미 소중히 여기고 있는 이들에게도 기쁜 일이 될 것이라고 믿는다고 밝혔다.
일레븐랩 리더는 iOS 버전이 7월 11일 앱스토어에서 배포될 예정이며 안드로이드 버전 배포 시기는 미정이다.