정용환 기자
재판 항변에서 AI로 자료를 생성해 이 세상에 존재하지 않는 판례를 인용한 미국 변호사에게 1만 5,000달러 벌금 지불이 권고된 것으로 밝혀졌다.
2024년 10월 HooserVac LLC라는 기업 퇴직금을 둘러싼 소송에서 대리인을 맡은 라파엘 라미레스 변호사는 법원 결정에 대한 이의 신청에서 준비 서면 3개를 제출했다. 하지만 이 서면에서 인용된 과거 판례 중 실재하지 않는 게 포함됐다.
법원이 인용 출처 판례를 확인할 수 없어 라미레스 변호사에게 설명을 요구했고 변호사는 생성 AI 도구를 사용해 문서를 작성했다는 걸 인정하고 사과했다. 그에 따르면 AI가 허위 정보를 만들어낼 가능성에 대해 인식하지 못했으며 생성된 텍스트는 신뢰할 수 있는 것으로 생각했다고 한다.
연방 민사소송규칙 제11조에서는 변호사가 자신이 제출한 정보 정당성을 보증해야 한다고 규정하고 있어 연방지방법원 판사는 라미레스 변호사에게 과실이 있다고 인정했다. 서면에서 판례를 적절히 인용하는 건 변호사 기본 업무이며 이 의무를 다하지 않는 점은 정당화될 수 없다며 준비서면 1건당 5,000달러 모두 1만 5,000달러 벌금을 권고했다.
한편 1건당 5,000달러라는 금액은 과거에 발생한 유사 사례를 참고했다. 2023년 비행기에 탑승한 승객 변호를 담당한 스티븐 슈워츠 변호사는 서류 작성에 챗GPT를 이용하고 내용을 정밀 검토하지 않은 채 그대로 법원에 제출했다. 이 건으로 슈워츠 변호사에게 명령된 벌금액이 5,000달러였다.
모두 1만 5,000달러 벌금을 권고한 것에 대해 판사는 이 금액은 지금까지 부과된 벌금 중에서도 고액이지만 변호사가 AI 특성에 대해 무지하다고 공언한 걸 감안하면 기존 제재가 불충분했다고 할 수밖에 없다고 지적했다.
판사는 또 AI가 본질적으로 나쁜 것이라거나 변호사의 AI 이용이 금지되어야 한다는 걸 말하고 싶은 게 아니라며 편리한 전기톱이 잠재적으로 위험한 것과 마찬가지로 사람은 자신이 사용하는 도구를 이해하고 해당 도구를 신중히 사용해야 한다는 것이라면서 AI는 변호사의 윤리적·직업적 의무에 준해 사용해야 함은 말할 필요도 없다는 의견을 제시했다.
한편 라미레스 변호사는 이후 AI 사용에 관한 법률교육 과정을 수강하고 AI 도구 사용을 계속하고 있다고 한다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
이원영 기자
