챗GPT나 바드 등 고성능 AI는 인간과 구분되지 않는 문장을 생성할 수 있지만 생성한 내용이 사실이라곤 할 수 없고 악의를 가진 누군가가 가짜 뉴스를 생성시킬 수도 있다. 이런 생성형 AI 짜가 뉴스를 게재하는 웹사이트가 2023년 5월 이후 1000% 이상으로 급증해 정치나 전쟁, 자연 재해에 관한 시위가 이전보다 확산하기 쉬운 상황이 되고 있다고 보도되고 있다.
뉴스가드 조사에 따르면 AI가 생성한 신뢰도가 낮은 뉴스 사이트가 2023년 12월 시점 614건 확인되고 있다고 한다. AI 생성 뉴스를 게재하는 웹사이트 수는 5월 시점 49건에서 1000% 이상이나 늘어나고 있으며 아랍어, 중국어, 체코어, 네덜란드어, 영어, 프랑스어, 독일어, 인도네시아어, 이탈리아어, 한국어, 포르투갈어, 스페인어, 타갈로그어, 태국어, 터키어 등 15개 언어에 걸쳐 존재하고 있다고 한다.
이 웹사이트에는 일반적인 뉴스 사이트처럼 보이는 명칭(iBusiness Day, Ireland Top News, Daily Time Update)이 있다. 또 웹사이트가 인간에 의한 감시나 편집을 거의 받지 않고 운영되고 있으며 공개된 기사가 AI에 의해 생성됐다는 것도 모호하게 되어 있다.
뉴스가드 측은 이 사이트 중 일부는 하루 수천 건까지는 말하지 않을 때까지 기사 수백 건을 생성하고 있다며 가짜 뉴스 확산에 AI가 이용될 가능성이 있다고 경고하고 있다.
AI는 정치, 기술, 엔터테인먼트, 여행 등 다양한 테마에 관한 기사를 생성할 수 있지만 내용이 사실에 근거하고 있는 건 아니다. 뉴스가드가 발견한 한 기사에선 이스라엘 네타냐후 총리와 정신과 의사가 사망하고 네타냐후 총리 참여를 시사하는 항의문이 남아 있었다는 사실 무근 내용이 기재되어 있었다고 한다.
이 가짜 뉴스에 등장하는 정신과 의사는 가상 인물이었지만 이 기사를 바탕으로 한 내용이 이란 TV 프로그램에서 다뤄지고 아랍어, 영어, 인도네시아어 등 미디어에서 확산됐으며 틱톡, 레딧, 인스타그램, 엑스 등 SNS에서도 가짜 뉴스가 확산됐다.
네타냐후 총리에 대한 가짜 뉴스를 게재한 웹사이트(Global Village Space)는 러시아 무기업자에 대한 미국 제재, 석유 대기업 사우디 아람코의 파키스탄 투자, 미중 관계 등 다양한 정치적 심각한 주제에 걸쳐 기사를 게시한다. 또 중동 씽크탱크 소속 전문가, 하버드대학에서 교육받은 변호사, 웹사이트 운영자로 파키스탄 TV 뉴스 캐스터 에세이 등도 게재되고 있다고 한다.
이곳에 게재된 기사 중에는 에세이나 실제 뉴스 등도 포함되어 있어 그 사이 혼잡하게 AI가 생성한 가짜 뉴스가 게재되고 있다고 한다. 따라서 독자가 가짜 뉴스를 찾는 게 더 어려워지고 있다는 것. 전문가는 이 기사가 거짓말이라고 탐구하는 미디어 리터러시가 없는 사람이 많다고 지적한다.
2020년 미국 대통령 선거에선 동유럽에 거점을 둔 트롤팜이라는 프로파간다 추진 그룹이 가짜 뉴스를 확산해 선거 결과에 영향을 줬다고 한다. 2019년 시점 미국 기독교인을 위해 공개된 페이스북 페이지 상위 20위 중 19페이지는 미국 외 트롤팜에 의해 운영되고 있다고 한다.
하지만 지금까지의 가짜 뉴스가 인력으로 만들어졌던 데 비해 AI는 압도적으로 단시간, 저비용으로 방대한 가짜 뉴스를 생성할 수 있다. 따라서 대선에서 이런 웹사이트가 난립하고 AI가 생성한 가짜 뉴스가 대량 확산되는 상황이 거의 확실시되고 있다. 현재 국가적인 첩보 기관이 AI 생성 뉴스를 선전에 이용했다는 증거는 발견되지 않았지만 내년 선거에서 확실히 사용하게 될 것이라는 지적이 많다.
역사적으로 선전 활동이 제대로 보이는 웹사이트를 구축하기 위해 대량 저임금 노동자와 고도로 훈련된 첩보기관에 의존해왔다. 하지만 AI는 첩보기관이든 10대든 거의 모든 사람이 실제 뉴스와 구별하기 어려운 콘텐츠를 생성해 이런 웹사이트를 쉽게 만들 수 있다. 언론 자유를 저촉할 우려가 있기 때문에 정부가 가짜 뉴스 콘텐츠를 단속하기는 어렵고 계속 증가하는 가짜 뉴스 게재 웹사이트는 거의 규제되지 않는다. 전문가는 가짜 뉴스 대책으로 가장 중요한 건 평균적인 독자의 미디어 리터러시를 높이는 것이라고 지적한다. 세상에는 이런 웹사이트도 있다는 걸 알게 해야 하며 이해할 필요가 있다는 것이다. 관련 내용은 이곳에서 확인할 수 있다.