테크레시피

오픈AI, AI가 만든 문장 찾아내는 도구 선보여

오픈AI가 2023년 1월 31일 AI에 의해 생성된 문장을 판별하는 AI 텍스트 분류기(AI Text Classifier)를 발표했다.

AI 텍스트 분류기는 샘플을 등록하면 AI가 생성했을 가능성 여부를 판별해준다. 챗GPT가 출력한 문서 샘플을 넣으면 곧바로 AI가 작성한 것이라고 판별할 수 있다. 다국어 역시 지원한다.

오픈AI에 따르면 영어로 실시한 테스트 평가에선 AI가 작성한 텍스트 26%를 AI로 작성됐을 가능성이 높다고 올바르게 식별할 수 있었지만 인간이 쓴 텍스트를 잘못 AI로 쓰인 것이라고 판별해 버리는 경우도 9% 있었다고 한다. 또 AI가 출력한 문장에 손을 더하는 것으로 검출을 회피할 수 있게 되어버리는 것도 확인되고 있으며 영어 이외 언어를 사용하면 대폭 정밀도가 떨어진다는 제한도 있다.

따라서 오픈AI는 학생이 AI를 이용하거나 논문을 대필했는지 교육자에게 학업상 부정에 AI를 사용했는지 판별하는 단일 증거로 AI 텍스트 분류기를 사용해선 안 된다고 경고하고 있다. 관련 내용은 이곳에서 확인할 수 있다.

이원영 기자

컴퓨터 전문 월간지인 편집장을 지내고 가격비교쇼핑몰 다나와를 거치며 인터넷 비즈니스 기획 관련 업무를 두루 섭렵했다. 현재는 디지털 IT에 아날로그 감성을 접목해 수작업으로 마우스 패드를 제작 · 판매하는 상상공작소(www.glasspad.co.kr)를 직접 운영하고 있다. 동시에 IT와 기술의 새로운 만남을 즐기는 마음으로 칼럼니스트로도 활동 중이다.

뉴스레터 구독

Most popular