정용환 기자
가짜 뉴스 그 중에서도 글을 바탕으로 한 기사에는 여러 생성 방법이 있다. 인물명이나 날짜, 통계 등 사실을 의도적으로 재작성하는 것도 한 방법이다. AI가 진화하면서 오정보 생성이 간단해지면서 가짜 뉴스 자동 생성도 곧바로 할 수 있게 됐다.
2020년 미국 대통령 선거 당시 부정 투표가 있었다든지 기후 변화는 의미가 없다는 의문은 기존 데이터를 분석하면 뒷받침할 수 있다. 이런 의문에는 오정보가 따라오기 쉽다. 잘못된 정보나 가짜 뉴스는 많은 이들에게 짧은 시간에 손실을 줄 수 있다. 가짜 뉴스 자체는 기술이 진화하기 훨씬 오래 전부터 존재했지만 소셜미디어 탄생이 문제를 증폭시켜 버렸다.
2018년 트위터 연구에 따르면 허위 뉴스 기사는 봇보다 인간이 리트윗하는 게 많았고 진짜 뉴스 기사보다 70%나 더 리트윗됐다. 같은 연구에선 진짜 뉴스가 1,500명에게 도달하는 데에는 허위 뉴스 6배 시간이 걸리고 진짜 뉴스가 1,000명 이상에 도달하는 것 자체가 드문 반면 허위 뉴스는 10만 명에게 도달할 수 있다는 사실을 밝히고 있다.
2020년 미국 대통령 선거와 코로나19 백신, 기후변화 등 화제는 모두 오정보 캠페인 주제가 되어 심각한 결과를 일으키고 있다. 코로나19 관련 어정보는 하루 5,000만에서 3억 달러 손실을 사회에 끼친 것으로 추정되고 있다. 정치적 오정보 대가는 내란과 폭력, 민주주의 제도에 있어 공공 신뢰 붕괴 등으로 이어진다.
잘못된 정보 감지는 알고리즘과 기계학습 모델, AI와 인간 조합으로 이뤄진다. 여기에서 중요한 건 오정보가 검지됐을 때 누가 책임을 갖고 정보 확산을 제어하느냐다. 소셜미디어 기업은 네트워크에서 정보 확산을 제어할 수 있는 위치에 있다. 간단하면서도 효과적인 잘못된 정보 생성 방법은 뉴스 기사를 편리하게 편집하는 것이다.
예를 들면 우크라이나 연출가와 각본가가 체포되어 테러리즘 정당화로 규탄됐다는 글의 경우 실제로 이 문장은 실제 있던 뉴스 기사 내 한 문장 그러니까 러시아를 우크라이나로 대체한 것이다.
온라인 오류 정보를 감지하고 확산을 제어하려면 여러 단계 접근이 필요하다. 소셜미디어 커뮤니케이션은 네트워크로 모델링할 수 있다. 사용자가 네트워크 모델 포인트이고 커뮤니케이션이 포인트끼리 연결하는 링크다. 게시물 리트윗이나 좋아요는 두 포인트 연결을 반영한다. 이 네트워크 모델을 오정보 확산 경우와 사실 확산 경우로 비교하면 전자는 훨씬 정보의 코어와 주변이 고밀도인 구조가 되기 쉽다.
커뮤니케이션 네트워크에서 조밀한 구조를 감지하는 효율적인 알고리즘을 개발해 이 정보를 더 분석해 오정보 캠페인 사안을 탐지할 수도 있다. 이 알고리즘은 커뮤니케이션 구조만을 기반으로 해 실제로 잘못된 정보가 있는지 확인하려면 알고리즘과 인간이 직접 수행하는 콘텐츠 분석이 필요하다. 변조된 기사를 감지하려면 신중한 분석이 필요하다. 이런 연구는 신경망 기반 접근법을 사용해 문장 정보와 외부 지식 기반을 결합해 변조를 확인한다.
물론 오정보 검출은 절반일 뿐이며 정보 확산을 멈추려면 단호한 행동이 필요하다. 소셜 네트워크상에서 오정보 확산을 막는 방법으로는 인터넷 플랫폼에 의한 개입이나 가짜 뉴스 캠페인을 중화하는 대항 캠페인 전개 등이 있다. 플랫폼 측으로부터의 개입에는 사용자 계정 이용 정지와 같은 형태도 있지만 의심스러운 포스트에 라벨을 붙이는 소프트한 방법도 있다. 알고리즘이나 AI에 의한 네트워크는 100% 신용할 수 없다. 정보의 진실함과 인기를 예측하고 플랫폼으로 대응해야 하는지 자동 판단하는 스마트 개입 정책을 설계해야 한다. 오정보 대항 캠페인을 실시할 때에는 진짜와 가짜에선 확산 속도, 도달 범위가 전혀 다른 걸 고려할 필요가 있다. 또 기사에 대한 반응은 게시물 길이, 주제, 사용자에 따라 달라진다.
이런 모든 요소에 따라 잘못된 정보 확산을 효과적으로 억제하는 대항 캠페인을 편성해야 한다. 최근 제너레이티브 AI 진화로 인해 기사를 빠르고 대량으로 생성하기 쉬워졌다. 이 때문에 오정보 검지나 정보 확산 방지를 대규모로 실시간 이뤄지는 더 더 어려워지고 있다. 이번 연구는 사회에 엄청난 영향을 미치는 과제를 해결하기 위해 앞으로도 계속될 것이다. 관련 내용은 이곳에서 확인할 수 있다.
이원영 기자
