실제보다 리얼한 AI 얼굴…하이퍼리얼리즘 문제는?

AI는 실제 인간 얼굴보다 더 실제 같아 보이는 얼굴을 만들 수 있는 하이퍼리얼리즘(Hyperrealism) 현상을 포함하고 있으며 이는 큰 문제를 내포하고 있다.

AI는 실제로 존재하지 않는 인간 얼굴 사진을 생성할 수 있으며 정확도는 엄청난 속도로 향상되고 있다. AI가 생성한 스파이나 실제로 존재하지 않는 엔지니어를 활용했다는 의심 사례도 보도되고 있다. 더구나 AI가 생성한 얼굴은 실제 얼굴과 구별하기 어려울 뿐 아니라 실제 얼굴보다 신뢰성이 높다는 연구 결과도 있다. 호주대 전문가는 AI가 실제 인간 얼굴보다 더 실제 같아 보이는 얼굴을 만들 수 있다는 걸 보여주며 이런 AI 능력인 하이퍼리얼리즘을 설명하고 있다.

인간과 비슷한 게 일정 수준 이상 품질에 도달하면 혐오감이 급격히 높아지는 불쾌한 골짜기(Uncanny Valley)로 알려져 있다. 하지만 AI는 이를 넘어 오히려 AI가 생성한 얼굴이 더 신뢰할 수 있다고 느낄 정도 얼굴을 생성할 수 있다는 게 일부 연구에서 밝혀졌다.

랭커스터대와 UC 버클리 연구자는 GAN이라는 AI 알고리즘을 사용해 실제 얼굴과 구별할 수 없을 정도로 리얼한 가상 얼굴을 만들었다. 그들은 생성된 사진과 실제 얼굴 사진을 섞어 식별 테스트를 실시한 결과 식별 그룹에 따라선 AI로 생성된 사진이 실제 얼굴로 더 많이 판별됐다고 한다.

연구자는 이 연구를 바탕으로 AI가 생성한 얼굴이 더 실제처럼 느껴지는 이 현상을 하이퍼리얼리즘이라고 명명했다. 나아가 인종적 요소가 하이퍼리얼리즘 현상에 영향을 미치는지에 대한 연구를 진행했다.

2023년 11월 발표된 연구에서 AI가 생성한 가상 인물과 실제 인물로 이뤄진 100명분 얼굴 사진을 참가자에게 보여줬다. 참가자는 사진이 AI인지 실제 인물인지 판단한 뒤 그 선택에 대한 확신 정도를 0에서 100 사이로 평가했다.

연구 결과 AI가 하이퍼리얼리즘을 실현할 수 있는 건 백인을 생성할 때만 한정되는 것으로 나타났다. AI로 생성된 유색인종 얼굴은 여전히 불쾌한 골짜기 현상에 빠져있어 실제 얼굴과 가상 얼굴을 구별하기 쉬웠다고 한다. 연구팀은 이유에 대해 원인은 단순하다며 AI 알고리즘 학습 데이터가 불균형적으로 훈련되어 있기 때문이라며 훈련받은 건 압도적으로 백인 얼굴이 많아 그 편향으로 인해 백인 얼굴만 실제처럼 만들 수 있다고 설명하고 있다.

연구팀은 또 연구에서 AI에 관한 사회적 문제점을 하나 더 발견했다. 연구에 따르면 AI가 생성한 얼굴을 실제 인간 얼굴로 여러 차례 잘못 판단한 사람은 자신의 선택에 대한 확신도 높았다고 한다. 달리 말하면 AI에 가장 속아 넘어간 사람이 바로 자신이 속고 있다는 인식이 가장 희미하다는 것이다. 생성형 AI는 이런 사람을 속일 가능성이 높기 때문에 투명성을 높여 개발하고 독립 기관에서 감시를 받아야 한다는 걸 보여준다는 주장이다.

한 AI 전문가는 AI 시스템에서의 인종 편향은 사람들이 소비하는 미디어 속 인종 편향을 강화시킬 수 있다며 이는 AI가 생성하는 외모가 전형적인 얼굴이며 이게 이상적으로 느껴지게 한다는 의식을 10대에게 줄 수 있어 사회 차원에서 심각한 영향을 미칠 수 있다고 지적했다. 관련 내용은 이곳에서 확인할 수 있다.