IT 매체 씨넷에서 2022년 11월경부터 금융 해설 기사 작성에 AI를 이용하고 있다고 보도됐지만 인간 편집자가 팩트체크를 했음에도 불구하고 기사에 오류가 발견됐다는 보도가 나왔다.
2023년 1월 11일 씨넷 금융 기사가 AI에 의해 작성된 게 발견됐다. 이후 2023년 1월 12일 씨넷은 금융 기사 작성에 AI를 이용하고 있다는 걸 인정하고 AI가 작성한 모든 기사는 인간 편집자에 의해 리뷰, 팩트체크, 편집이 이뤄지고 있다고 발표했다.
그럼에도 불구하고 AI가 작성한 기사에는 여러 실수가 있다. 씨넷이 2023년 1월 12일 공개한 복리란? 이라는 기사에선 연리 1만% 복리로 보통예금계좌에 3달러를 맡기면 초년도 말에 이자가 1만 300달러가 된다고 기재되어 있지만 실제로 얻을 수 있는 이자는 300달러 실수다.
해당 기사는 이후 수정됐지만 사실 정오와 관계없이 정확한 내용처럼 보이는 문장을 만드는 문장 생성 AI의 기술적 과제가 부각됐다고 지적하고 있다. 한 연구자는 AI가 생성한 문장은 일견 권위가 있는 것처럼 보였고 편집자가 경계를 풀어낸 결과 인간 기자 때보다 사실 확인을 신중하게 실시하지 않았다고 생각한다고 밝혔다.
1월 12일 발표된 성명에서 씨넷 편집자는 씨넷에서 AI 사용을 기자를 AI로 대체하기 위한 게 아니라 인간 일을 지원하는 걸 목적으로 한 실험이라고 부른다. 또 목표는 모든 주제를 다뤄야 할 바쁜 기자와 편집자를 AI가 도울 수 있는지 확인하는 것이라고 말한다.
씨넷은 2023년 1월 17일 인간과 AI 모두 실수를 범하기 때문에 더 이상의 오류가 없도록 편집 절차를 통해 AI가 작성한 모든 작품을 적극 체크하고 있다고 밝혔다. 또 다시 에러가 발견됐을 경우에도 계속 필요한 수정을 실시할 것이라고 덧붙였다. 관련 내용은 이곳에서 확인할 수 있다.
한편 씨넷은 직원 전화 회의에서 AI를 이용해 작성한 기사 공개를 당분간 중단한다고 설명했다고 한다. 또 씨넷 계열 미디어에서도 AI를 이용해 작성한 기사 공개가 중단된다고 한다. 씨넷 편집장인 코니 그리엘모는 자사는 AI를 비밀리에 도입한 게 아니라 조용히 도입했을 뿐이라며 이는 기자를 AI로 대체하기 위한 게 아니라 인간 업무를 지원하는 걸 목적으로 한 실험이었다고 밝히고 있다.
보도에 따르면 씨넷은 1월 20일 직원 전화 회의에서 직원에게 AI가 생성한 모든 콘텐츠 공개를 당장 중단하며 씨넷 계열 미디어(Bankrate, CreditCards.com 등)에서도 AI가 관여한 기사 공개를 중지하는 게 정해졌다고 설명했다고 한다. 씨넷이 기사 작성에 사용한 AI는 레드벤처스(Red Ventures)가 구축한 독자 툴로 데이터를 취득하는 도메인이나 섹션을 선택하는 것으로 기사를 생성할 수 있다.
보도에선 씨넷 모기업인 레드벤처스가 AI 기사 쓰기를 실시한 건 수익성이 높은 제휴 링크를 포함한 콘텐츠를 SEO로 구글 검색 상단에 표시되도록 한다는 비즈니스 모델을 효율적으로 실시하기 위한 것이라고 주장하고 있다. AI 학습에 사용한 데이터세트는 현재 불분명하다. 관련 내용은 이곳에서 확인할 수 있다.