채팅AI는 요약이나 비즈니스 문서 작성 보조, 대화, 번역 등 다양한 용도에 도움이 되지만 한편으로 숙련된 문장을 만들 수 있기 때문에 가짜 정보나 가짜 뉴스 생성을 비롯한 악용 우려도 있다. 비영리 플랫폼인 컬처리코(Culturico) 측은 AI가 정보 환경에 어떤 영향을 미치는지에 대한 연구를 발표했다.
연구팀은 코로나19 백신 안전성, 기후 변화, 5G 기술 등 가짜 정보가 나오기 쉬운 11개 주레에 초점을 맞추고 주제마다 채팅 AI인 GPT-3을 이용해 진짜 트윗과 거짓 트윗을 만들었다. 또 같은 주제에 관한 트윗 샘플을 진실과 거짓 불문하고 모았다.
다음으로 전문가 평가를 이용해 트윗군을 GPT-3이 만든 진실 트윗, GPT-3이 만든 거짓 트윗, 인간이 쓴 진실 트윗, 인간이 쓴 거짓 트윗 4개로 분류했다. 또 설문조사 플랫폼(Qualtrics)을 이용해 참가자 697명에게 트윗에 정확한 정보가 포함되어 있는지 또 해당 트윗은 인간이 쓴 것인지 AI가 만든 것인지 판단하게 했다. 응답자 대부분은 영국, 호주, 캐나다, 미국, 아일랜드 출신이었다.
조사 결과 인간이 쓴 진실 트윗보다 GPT-3이 만든 진실 트윗이 정확한 정보를 포함한다고 판단한 것으로 나타났다. 또 GPT-3이 만든 거짓 트윗보다 인간이 쓴 거짓 트윗이 거짓 정보를 포함하고 있다고 인식하는 것으로 나타났다. 이는 사람이 인간 트윗이라면 오정보를 식별할 가능성이 높고 AI에 의해 생성된 거짓말이 설득력이 높다는 얘기다.
연구팀은 놀랍게도 사람들은 AI가 생성한 트윗을 실제로 인간이 쓴 트윗보다 인간에 의한 트윗을 판단했다고 말한다. 덧붙여 연구에 있어 GTT-3에 여러 트윗을 생성할 때 GPT-3은 가짜 정보 생성을 거부하는 경우도 있었지만 진실 정보를 생성하도록 요구했는데 가짜 정보를 생성하는 경우도 있었다고 한다. 연구팀은 이번 연구는 관리된 실험 환경에서 이뤄진 것에 유의할 필요가 있다며 설득력 있는 가짜 정보를 생성하는 AI 유효성에 우려가 있으며 권장 사항을 준수하는데 어떤 영향을 주는지 관찰해야 한다고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.