유네스코(UNESCO)는 AI가 점점 더 광범위하게 사용되는 시대에 홀로코스트에 관한 기록을 보호하는 게 어려워지고 있다며 경고 의미를 담은 보고서를 발표했다.
보고서에서 유네스코5가지 우려 사항을 제기했다. 첫째 AI 생성 콘텐츠가 홀로코스트 사실을 왜곡할 위험이 있다는 것. AI 모델은 홀로코스트에 대한 오해를 불러일으킬 수 있는 콘텐츠를 생성할 수 있다. 그 중에서도 데이터 편향이나 공백으로 인해 환각에 의해 과거에 일어나지 않은 잘못되거나 왜곡된 콘텐츠를 생성할 수 있다. AI 리터러시나 조사 능력이 없다면 AI 생성 콘텐츠인지 검증하거나 데이터 신뢰성 낮음을 인식하기 어려울 수 있다.
둘째 딥페이크 기술에 의한 역사적 증거 조작 가능성. 딥페이크 기술은 음성이나 영상을 조작해 홀로코스트 관련 콘텐츠를 왜곡할 가능성이 있다. 확립된 홀로코스트 역사 기록에 대한 진실성을 훼손하고 헤이트 스피치를 퍼뜨리는 거짓 증거를 의도적으로 만들 수 있는 AI 악용을 막을 장치가 필요하다. 유명인 딥페이크가 나치 이데올로기를 퍼뜨리거나 아돌프 히틀러 등 나치 지도자와의 대화를 시뮬레이션하는 데 사용되고 있다.
셋째 AI 모델 조작으로 헤이트 스피치 확산 가능성. 폭력적 과격 온라인 그룹 캠페인이 AI 취약점을 악용해 헤이트 스피치나 반유대주의 콘텐츠를 퍼뜨릴 수 있다. 챗봇이나 검색엔진이 나치 이데올로기를 퍼뜨리기 위해 해킹되거나 악의적 공격자에 의해 조작될 수 있다.
넷째 알고리즘 편향으로 홀로코스트 부정 확산 가능성. 편향된 데이터세트에 의해 일부 검색엔진이나 AI 챗봇이 홀로코스트 사실을 과소평가하거나 홀로코스트 부정을 포함한 극우 콘텐츠를 홍보할 수 있다.
마지막은 역사의 단순화. AI는 홀로코스트에서 가장 잘 알려진 측면에 초점을 맞추는 경향이 있어 그 복잡성을 지나치게 단순화한다. 덜 알려진 에피소드나 사건이 생략되면서 홀로코스트에 대한 고정관념이 강화되고 유럽과 북아프리카 전 지역인에게 영향을 미치는 부정적 유산에 대한 복잡한 과거 이해가 제한될 수 있다.
교육과 연구에서 AI 기술의 이점도 있지만 이런 문제를 극복하고 이점을 활용하려면 AI 설계자, 정책입안자, 교육자, 연구자가 긴밀히 협력해야 한다. 견고한 안전장치와 인권 평가를 갖춘 AI 시스템만이 디지털 리터러시 기술 향상과 더불어 역사적 진실의 완전성을 지키고 책임 있는 AI 활용을 보장할 수 있다.
유네스코 측은 AI의 무책임한 사용으로 무서운 홀로코스트 사실이 과소평가되거나 왜곡, 조작되도록 허용하면 반유대주의가 폭발적으로 확산되어 홀로코스트 만행 원인과 결과에 대한 이해가 사라질 위험이 있다며 유네스코의 AI 윤리 권고는 젊은 세대가 왜곡이 아닌 사실을 알고 자랄 수 있도록 하는 데 절실히 필요하다고 말했다. 관련 내용은 이곳에서 확인할 수 있다.