오픈AI(OpenAI)가 인공지능을 이용해 인간처럼 자연스러운 문장을 자동으로 만들 수 있는 텍스트 생성기를 만든 바 있다. 이를 이용한 텍스트 생성기가 유행하면 누구나 손쉽게 가짜 뉴스를 만들 수 있게 해준다. 알렌인공지능연구소는 이런 신경망을 이용해 생성된 가짜뉴스를 확실하게 검출하기 위한 시도를 하고 있다.
오픈AI가 개발한 텍스특 생성용 AI 모델은 GPT2다. GPT2는 뉴스와 허구를 자동 생성하는 AI 모델로 사람이 입력한 1개 문장을 바탕으로 AI가 자동으로 문장을 출력해주는 놀라운 도구다. 처음에는 정밀한 텍스트를 생성해 개발자들이 너무 위험하다며 논문 발표를 연기하기도 했다.
GPT2 같은 도구를 이용해 가짜 뉴스를 만들면 진위를 판단하는 건 사람에겐 어렵다. 알렌인공지능연구소는 신경망을 이용해 생성된 가짜 뉴스를 검출하기 위한 그로버(Grover)라는 AI 모델을 개발했다. 연구팀은 가짜 뉴스를 검출하기 위한 가장 좋은 방법은 텍스트 생성기이기도 한 그로버를 이용해 생성된 가짜 뉴스를 검출하는게 가장 효과적이었다고 설명한다.
AI를 이용한 텍스트 생성기는 자신의 습관이나 버릇, 특징 또 어떤 AI 모델을 이용하고 있는지 여부 등 어떤 데이터로 훈련된 것인지 숙지하고 있다. 이를 이용하면 그로버는 다른 AI로 만든 가짜 뉴스를 식별할 수 있게 된다는 것이다. 식별 정확도는 상당히 높고 신경망을 이용해 만든 가짜 뉴스에 대한 접근이 제한되어 있는 경우 그러니까 AI에 의한 가짜 뉴스 샘플이 적을 때에도 그로버는 인간이 쓴 뉴스와 AI가 쓴 가짜 뉴스를 92% 이상 정확도로 구별할 수 있다고 한다.
그로버를 이용해 가짜 뉴스를 자동 생성해주는 생성기에는 도메인과 날짜, 저자, 제목, 본문 5개 입력 가능한 항목이 있다. 항목 옆에 배치한 생성 버튼을 누르면 그로버는 항목에 해당하는 정보를 설정해주고 간단하게 가짜 뉴스를 만든다. 그로버는 기사 본문을 쓰지 않아도 도메인이나 제목, 저자명 등을 지정하면 이 정보를 바탕으로 가짜 뉴스를 생성한다. 생성 시간은 30초 남짓이다.
반대로 가짜 뉴스 감별(Detect Fake News) 버튼을 누르면 그로버는 입력한 뉴스가 인간에 의해 쓰인 것인지 AI가 만든 것인지 판별한다. 관련 내용은 이곳에서 확인할 수 있다.