기계학습 관련 국제회의 중 하나인 ICML(International Conference on Machine Learning)이 챗CPT(ChatGPT)와 같은 AI를 이용해 과학 논문을 집필하는 걸 금지하는 방침을 발표했다. 이 방침을 둘러싸고 AI 연구자 사이에서도 의견이 갈리고 있다.
챗GPT 같은 자연 언어 처리 AI가 누구나 쉽게 사용할 수 있게 되어 많은 조직에서 혼란이 생기고 ICML처럼 AI 제품을 금지하는 사이트도 나와 있다. 2022년 12월에는 코딩 Q&A 사이트인 스택오버플로(Stack Overflow)에서 생성한 답변을 제출하는 게 금지됐다. 또 미국 뉴역시 교육청은 학교 컴퓨터와 네트워크에서 챗GPT에 액세스하는 걸 금지했다.
이런 가운데 ICML은 챗GPT와 같은 일반적으로 액세스 가능한 자연 언어 처리 모델 대두는 자극적 발전을 의미하지만 이런 AI를 이용해 출력한 건 누구인가, AI가 생성한 텍스트나 이미지는 새로운 것인가 아니면 기존 작품 파생물에 지나지 않는가 등 미해결 문제를 낳았다고 밝히고 있다.
이런 문제와 그 밖에 많은 의문은 대규모 AI가 더 널리 채용함에 따라 조금씩 해결될 것이라고 ICML은 성명서에서 말하고 있으며 AI 금지는 2024년 재평가할 예정이라고 한다.
다만 ICML이 금지하는 건 완전히 AI에 의해 생성된 텍스트를 논문에 사용하는 것이며 저자가 자신이 쓴 문장을 편집하거나 추기하거나 하는 것에 사용하는 걸 금지되어 있지 않다. 이는 이미 AI로 문법을 수정해주는 툴을 사용해 논문 텍스트를 체크하는 경우가 많기 때문이라고 한다. 또 특히 논문을 AI 검출 소프트웨어에 걸쳐 체크를 실시하는 일은 하지 않고 다른 학자로부터 의혹이 지적된 것에 대해서만 조사한다고 하고 있다.
모질라재단 관계자는 챗GPT는 문법 수정 도구와 달리 이미 작성된 문장 구조와 언어를 조정하도록 설계된 게 아니라 새로운 텍스트 생성에 특화되어 ᅟᅵᆻ어 문장 내용에 큰 변화를 줄 수 있다고 말한다. 평가로 논문을 검증할 때 어리석은 영어로 쓰인 논문이 선호된다는 무의식적인 바이어스가 분명히 존재하며 이 바이어스는 영어 모국어 화자에게 유리하게 작용된다. 모국어 화자는 챗GPT와 같은 AI를 이용해 자신의 아이디어를 표현해 공정한 경쟁 장소에서 있다고 생각하는 것 같다며 하지만 친구와의 커뮤니케이션을 원활하게 할 수 있을지 모른다고 말한다.
다만 학자가 AI를 이용해 논문을 하나 생성하는 건 가능하겠지만 실제로 이렇게 했을 때 인센티브는 거이 없다면서 잘못된 설명은 그 학자 탓이 되어 학자 커리어에 계속 따라다니게 될 것이라고 지적한다. 관련 내용은 이곳에서 확인할 수 있다.