인공지능 연구 개발 단체인 오픈AI(OpenAI)가 지난 2월 MIT와 함께 정교한 가짜 뉴스 쓰기 AI인 GPT-2를 개발했다고 밝힌 바 있다. 당시에는 만일 이 같은 AI가 악용되면 가짜 뉴스나 스팸성 정보가 넘쳐나 혼란을 초래할 가능성이 지적되기도 했다. 이런 이유로 오픈AI는 GPT-2 단순화 버전만 공개했다.
하지만 오픈AI는 이후에도 연구를 계속 진행 중이며 전체 기능을 갖춘 정식 버전을 공개해도 오용된다는 강력한 증거가 없다며 드디어 웹에 이를 공개했다.
GPT-2는 최소한의 정보만으로 앞뒤가 맞는 텍스트 내용을 생성해주는 능력을 갖춘 텍스트 생성 시스템이다. 웹사이트에서 모은 800만 개 이상 텍스트 문서를 통해 학습시켰다. 뉴스 기사를 작성할 때 제목과 맨 처음 첫 문장을 주면 해당 글을 완성시키는 재주를 갖고 있다.
GPT-2는 출력 문장을 조정할 수 있다. 예를 들어 특정 차별적 사상 같은 걸 옹호하게 손봐 자동 생성하는 시스템으로 만드는 것도 가능하다. 하지만 오픈AI는 3월 공개한 제한된 버전이 가짜뉴스 생산 등에 악용된 징후가 없는 만큼 전체 기능 버전 공개를 실시했다고 설명한다.
연구팀은 또 GPT-2가 생성한 문장을 95% 확률로 검출할 수 있는 시스템도 개발하고 있다고 한다. 하지만 이는 완전 자동 작업이 아닌 가짜 사진이나 영상 검색처럼 일부는 인간의 힘을 빌릴 필요가 있다고 한다.
오픈AI는 앞으로 GPT-2가 어떻게 사용되는지 모니터링하면서 기계학습을 위한 책임 있는 출판 규범 프로젝트에 참여해 지역사회와 함께 이를 논의할 것이라고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.