정용환 기자
AI 어시스턴트 클로드(Claude) 개발사인 앤트로픽(Anthropic)이 유니버설 뮤직 그룹(UMG) 등과의 저작권 관련 소송에서 존재하지 않는 논문을 인용해 자사 주장을 뒷받침하려 했다는 지적이 제기됐다.
UMG와 UMG를 통해 배급되는 독립 음악 레이블인 콘코드 뮤직, ABKCO는 앤트로픽이 자사 AI 모델 클로드를 훈련시키는 데 저작권으로 보호되는 가사를 무단으로 사용했다고 주장하며 지난 4월 25일 수정된 소장을 제출했다.
이에 대응해 앤트로픽 데이터 과학자인 올리비에 첸은 4월 30일 사용자가 클로드에게 저작권이 있는 가사를 출력하도록 요청하는 프롬프트를 사용하는 빈도에 대한 샘플 크기 적절성을 주장하기 위해 학술지(The American Statistician)에 게재된 논문을 인용한 반론 문서를 제출했다. 앤트로픽 측은 사용자가 클로드에 가사를 요청하는 일은 극히 드물다고 주장하고 있다.
하지만 원고 측 대리인이 해당 논문 저자로 언급된 인물과 학술지 측에 연락한 결과 해당 논문은 실제로 존재하지 않는 것으로 드러났다. 변호사는 의도적으로 거짓말을 하려 했다고 보지는 않지만 클로드를 이용해 문서를 작성하는 과정에서 환각(hallucination)이 포함됐을 가능성이 있다고 말했다.
환각은 AI가 실제로 존재하지 않는 잘못된 정보를 생성하는 현상이나 그 결과물을 지칭하며 2023년에는 케임브리지 사전이 선정한 올해의 단어로 꼽히기도 했다.
앤트로픽 측은 인용 실수가 있었다고 해명하면서도 AI에 의한 조작은 부인하고 원고 측이 이를 지적하는 데 시간을 끌며 자신들을 샌드백으로 만들고 있다고 반박했다. 하지만 재판을 맡은 판사는 단순한 문서 검토 누락과 AI가 생성한 환각은 큰 차이가 있다고 지적하며 이 같은 주장을 반박했다.
한편 미국에서는 5월 캘리포니아주 한 판사가 로펌 2곳이 AI가 생성한 허위 조사 결과를 법원에 제출했다고 비판한 사건이 있었다. 또 지난 1월 호주에서는 한 변호사가 AI를 활용해 재판 문서를 작성하는 과정에서 환각이 혼입된 사례가 보고된 바 있다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
이원영 기자
