작가, AI 챗봇 품질 향상 위해 직업 불필요하게 만드는 작업 종사

생성형 AI가 급격히 발전함에 따라 AI가 인간 일자리를 빼앗는 게 아니냐는 우려가 커지고 있다. 하지만 일부 저널리스트, 소설가, 학자는 자신의 직업이 위협받고 있음에도 불구하고 챗봇 품질을 개선하기 위해 기술 회사에서 일하고 있다.

챗GPT와 같은 대규모 언어 모델을 사용하는 챗봇은 방대한 텍스트 요약부터 이메일 작성, 에세이 및 소설 작성 등 다양한 창의적 작업을 수행할 수 있다. 하지만 이런 성능을 구현하기 위해서는 대규모 언어 모델 훈련이 필요하며 이를 위해 AI 개발 회사는 소설가, 학자, 프리랜서 저널리스트와 계약을 맺고 있다.

AI 개발 회사에서 일하는 잭 아폴로 조지(Jack Apollo George)에 따르면 이들 계약자는 챗봇에 던져질 가상 질문에 대한 답변을 작성하는 작업을 주로 수행한다. AI는 좋은 글을 생성할 수 있지만 이를 위해서는 좋은 글이 무엇인지 명확히 정의해야 한다. 이를 위해 가상 질문에 대한 인간 답변을 모델에 학습시키는 방식으로 AI 성능을 개선한다. 이렇게 하면 AI가 사실이 아닌 걸 사실처럼 설명하는 환각(hallucination) 현상 발생 빈도를 줄일 수 있다.

그는 AI 세계는 우리 말로 이뤄져 있다며 뛰어난 인간 언어 데이터가 없다면 대규모 언어 모델은 개선될 수 없다고 설명했다.

또 구글 딥마인드 연구자인 일리야 슈마일로프(Ilia Shumailov)는 인간이 쓴 글이 아닌 대규모 언어 모델이 생성한 텍스트를 바탕으로 모델을 훈련하면 마이너리티 데이터라고 불리는 희귀한 단어와 사실에 대한 지식을 잃는 모델 붕괴 현상이 발생해 성공적으로 훈련할 수 없다며 AI 훈련에서 인간의 중요성을 강조했다.

실제로 오픈AI는 월스트리트 저널 모회사인 뉴스코프(News Corp)와 계약을 맺어 인간이 작성한 고품질 텍스트를 수집해 추가 훈련에 사용할 수 있는 환경을 마련했다.

조지는 AI 개발 회사에서 시니어 데이터 품질 전문가로 일하고 있지만 그의 일에 대해 복잡한 감정을 느끼고 있다고 말한다. 그는 고성능 대규모 언어 모델이 우리 작가 일을 자동화하고 성능이 향상될수록 일자리는 더 줄어들 것이라고 우려를 표했다.

한편 소프트웨어 엔지니어 프랑수아 쇼레(François Chollet씨는 대규모 언어 모델을 훈련하기 위해 주석이 달린 데이터를 만드는 데 2만 명이 고용되어 있지만 이런 인간 수작업이 없었다면 AI가 생성하는 텍스트는 정말 형편없었을 것이라고 말했다. 초기에는 AI 훈련에 참여한 계약자가 저임금으로 고용됐지만 모델 훈련 정확도를 높이기 위해 더 전문적이고 고임금 직업으로 전환됐으며 일부는 시급 30파운드로 고용되기도 했다.

하지만 쇼레는 대형 기술 기업은 인간이 참여하는 AI 훈련 과정에 대해 명확하게 공개하지 않고 있으며 가까운 미래에 이런 과정에 대한 투자 방향이 수정될 것이라고 예측했다. 조지는 AI가 발전해 더 이상 새로운 단어를 훈련할 필요가 없을 때까지 작가와 저널리스트가 일자리를 잃지는 않을 것이라고 전망했다. 관련 내용은 이곳에서 확인할 수 있다.