오픈AI가 2023년 1월 31일 AI에 의해 생성된 문장을 판별하는 AI 텍스트 분류기(AI Text Classifier)를 발표했다.
AI 텍스트 분류기는 샘플을 등록하면 AI가 생성했을 가능성 여부를 판별해준다. 챗GPT가 출력한 문서 샘플을 넣으면 곧바로 AI가 작성한 것이라고 판별할 수 있다. 다국어 역시 지원한다.
오픈AI에 따르면 영어로 실시한 테스트 평가에선 AI가 작성한 텍스트 26%를 AI로 작성됐을 가능성이 높다고 올바르게 식별할 수 있었지만 인간이 쓴 텍스트를 잘못 AI로 쓰인 것이라고 판별해 버리는 경우도 9% 있었다고 한다. 또 AI가 출력한 문장에 손을 더하는 것으로 검출을 회피할 수 있게 되어버리는 것도 확인되고 있으며 영어 이외 언어를 사용하면 대폭 정밀도가 떨어진다는 제한도 있다.
따라서 오픈AI는 학생이 AI를 이용하거나 논문을 대필했는지 교육자에게 학업상 부정에 AI를 사용했는지 판별하는 단일 증거로 AI 텍스트 분류기를 사용해선 안 된다고 경고하고 있다. 관련 내용은 이곳에서 확인할 수 있다.