이원영 기자
잉글랜드 및 웨일스 고등법원이 변호사의 업무상 AI 악용을 방지하기 위해 더 강력한 조치를 취할 필요가 있다고 밝혔다.
영국에서 심리된 노숙자 지원을 둘러싼 소송 및 대출계약에 관한 관할권·각하 신청에서 변호사가 챗GPT 같은 챗봇 AI를 이용해 재판 문서를 작성하는 사례가 발생했다. 이 과정에서 변호사가 AI가 생성한 가짜 판례 및 인용문인지 확인하지 않고 재판 문서를 제출한 것으로 의심된다며 법원 측은 변호사 측 소송 행위를 문제 삼고 있다.
노숙자 지원을 둘러싼 소송에서는 변호인 측이 재판 문서에 존재하지 않는 판례 5건을 인용했다. 재판 담당 판사는 완전히 가짜인 판례를 제출할 것이라고는 예상하지 못했다. 이는 전문적이고 윤리적으로 극히 문제가 있다며 재판 문서를 제출한 변호사에게 재판 비용 지불 및 영국 사법·변호사 규제국에 대한 보고를 명령했다. 다만 변호사는 AI 사용을 부인하고 있으며 소송에서는 존재하지 않는 판례 5건이 AI가 생성한 것인지 여부는 확정되지 않았다. 다만 구글 검색 등에 표시되는 생성형 AI가 작성한 요약을 인용했을 가능성이 지적되고 있으며 AI가 생성한 내용을 미검증 상태로 변호사가 제출했다면 중대한 실수라고 판사는 지적했다.
대출계약에 관한 관할권·각하 신청에서는 법원에 제출된 진술서에 기재된 인용 문헌 45건 중 18건이 존재하지 않는 것으로 밝혀졌다. 이에 대해 진술서를 제출한 변호사는 AI를 사용했지만 오류를 알아차리지 못했다, 의도하지 않은 실수라고 주장하며 향후 개선을 약속했다. 이에 대해 법원은 변호사 책임이 중대하다고 판단하고 변호사 규제국 및 법원에 대한 보고를 명령했다. 다만 판사는 고의적 허위 진술에는 해당하지 않는다고 판단했다.
이 사례 2건을 다룬 판사는 챗GPT 같은 생성형 AI 도구에 대해 신뢰할 수 있는 법적 조사를 수행할 수 없다고 지적했다. 또 이런 도구는 언뜻 보면 일관성이 있고 그럴듯한 답변을 생성하지만 그 답변이 완전히 틀린 경우도 있다며 AI 답변은 전혀 사실이 아닌 자신감에 찬 가짜 주장인 경우가 있다며 AI에만 의존하는 것은 잘못이라고 지적했다.
변호사가 소송 준비에 AI를 사용할 수 없다는 의미는 아니지만 변호사에 대해 전문적 업무 과정에서 AI를 사용하기 전에 권위 있는 정보원을 참조하고 조사 정확성을 확인할 직무상 의무가 있다고 경고했다.
한편 영국 사법부 및 법조단체도 2023년부터 2025년에 걸쳐 AI 이용에 관한 가이던스를 발표하며 AI가 생성한 내용은 변호사가 스스로 책임지고 검증해야 한다고 명시하고 있다. 판사는 AI가 생성한 것으로 추정되는 허위 내용을 인용한 재판 문서가 증가하고 있다며 AI 이용에 관한 가이드라인이 준수되고 변호사가 법원에 대한 의무를 준수하고 있다는 걸 확실히 하기 위해 추가 대책을 강구할 필요가 있다고 밝혔다.
판사는 직무상 의무를 준수하지 않는 변호사는 엄중한 제재를 받을 위험이 있다고도 경고했다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
정용환 기자
