최고 재무 책임자가 돈을 횡령했다는 허위 내용이 출력된 게 명예훼손에 해당한다며 의심을 산 당사자가 챗GPT 개발사인 오픈AI에 소송을 걸었다.
저널리스트 프레드 릴이 한 재판 고소장을 요약해달라고 챗GPT에 입력하자 챗GPT는 헌법수정제2조재단 SAF 창설자인 알란 고트리브가 SAF로부터 자금을 횡령한 혐의로 고발된 최고 재무 책임자 마크 월터스에게 제출한 법적 소장이라는 내용을 출력했다.
하지만 릴이 알고 싶었던 재판 내용은 원래 총기 권리를 지키는 단체인 SFA가 워싱턴주에 소송을 건 것이었다. 이 때문에 릴은 챗GPT에게 소장 속 월터스와 관련 정보를 출력하도록 요구했다. 그러자 챗GPT는 피고 마크 월터스는 조지아주에 거주하며 적어도 2017년부터 SFA 최고 재무 책임자를 맡고 있다고 응답했다. 더구나 릴의 요구에 따라 월터스가 소송당했다는 증거 소장까지 출력했다. 문제의 소장 내용은 물론 정리 번호를 포함해 모두 헛소리다.
하지만 릴은 만일을 위해 원고인 앨런 고트리브에게 확인을 했더니 그런 사실은 없었다고 한다. 또 월터스는 SFA 재무 담당은커녕 SFA에 소속된 적도 없는 라디오 사회자였다.
이를 통해 월터스는 챗GPT가 허위 내용으로 자신의 명예를 훼손했다고 소송을 걸었다. 월터스 측 변호사는 AI 연구 개발은 가치가 있지만 사람들에 관한 사실을 쫓는다고 알고 있는 시스템을 일반 공개하는 건 무책임하다고 지적했다. 챗GPT를 명예 훼손으로 죄를 묻는 점에 대해 문제의 허위 정보를 봤던 건 릴 1명 뿐이며 그 자신도 AI에 의한 환각을 의심하고 확인했다며 이게 명예 훼손에 해당하냐는 의문도 나온다. 또 전문가도 재판을 이길 가능성도 있지만 원고가 입증해야 한다며 어떻게 평판이 손상됐는지 손해를 입었는지가 표시되지 않았다고 지적하고 있다. 오픈AI는 처음부터 챗GPT는 잘못된 내용을 출력할 수 있다고 경고하고 있으며 학술지나 국제회의에선 사용을 금지하고 있는 곳도 있다. 관련 내용은 이곳에서 확인할 수 있다.