미국 연방거래위원회(FTC)는 AI에 관한 과대광고나 사기성 계획에 대한 단속 오퍼레이션 AI 컴플라이(Operation AI Comply) 일환으로 여러 기업을 상대로 소송을 제기했다고 발표했다. 그 중에는 세계 최초 AI 변호사 제공을 내세운 기업인 두낫페이(DoNotPay)도 포함되어 있으며 FTC는 AI 챗봇 출력이 인간 변호사 수준인지에 대한 테스트를 실시하지 않았다고 주장했다.
두낫페이는 2015년 주차 위반 이의 제기를 무료로 지원하는 서비스로 시작했다. 이후 계약 위반 신고나 이혼 조정까지 법률 분야에서 200개 이상을 다루는 수준으로 급속히 확장됐다.
2019년부터 두낫페이는 2개월에 36달러짜리 유료 서비스가 됐고 세계 최초 AI 변호사, 버튼 하나로 누구나 소송할 수 있다는 대담한 광고 문구를 사용해 서비스 확장을 도모했다.
하지만 두낫페이는 사용자로부터 소송을 당했다. 예를 들어 2023년에는 소액 소송이나 고용 차별 소송 신청서 작성에 있어 두낫페이가 기준 이하 결과만을 제공했다는 이유로 사용자로부터 소송을 당했다. 이 재판에서 두낫페이는 자사 서비스에서 제공하는 AI 변호사를 사용해 대응하려는 자세를 보였지만 결국 변호사회로부터 협박이 쇄도했고 법적 위험이 너무 높다는 판단에 따라 AI 변호사 기용은 중지됐다.
FTC 조사에 따르면 두낫페이 서비스는 기본적으로 챗GPT API를 이용한 챗봇에 불과했으며 최신 법률이나 판례 등으로 훈련된 모델을 사용하고 있지 않았다. 또 두낫페이가 광고에서 사용한 추천문이 고등학생이 쓴 의견 기사에서 인용한 것이었다는 점과 서비스 품질이나 답변 정확도를 검증하기 위한 인간 변호사를 고용하지 않았다는 점도 밝혀졌다.
FTC에 따르면 두낫페이는 FTC와의 화해안에 동의했다. 이 화해안에는 19만 3,000달러를 지불한다, 2021년부터 2023년 사이 서비스에 등록한 사용자에게 기능 제한을 통지한다, 앞으로 명확한 근거 없이 법률 사무소 대안이 될 수 있다고 주장하는 걸 금지한다는 조항이 포함되어 있다고 한다.
두낫페이 측은 자사는 FTC와 건설적으로 협력해 이 사안을 해결하고 이런 문제를 완전히 해결할 수 있어 기쁘다고 논평했다. 다만 이번 신고는 수년 전에 폐지된 서비스에 관한 것으로 고객 수백만 명 중 수백 명이 대상이 되고 있는 것이라고 주장했다.
FTC 리나 칸 위원장은 AI 도구를 사용해 사람을 속이거나 오해하게 하거나 사기를 치는 건 불법이라며 FTC 법 집행 활동은 AI에 대한 법률의 적용 제외가 없다는 걸 명확히 하고 있다면서 이런 시장에서의 불공정하거나 기만적인 관행을 단속해 FTC는 성실한 기업이나 혁신가가 공평한 기회를 얻을 수 있도록 하고 소비자가 보호되도록 하고 있다고 논평했다. 관련 내용은 이곳에서 확인할 수 있다.