이원영 기자
이미지와 문장을 자동 생성하는 제너레이티브 AI는 불과 몇 년 만에 엄청난 진화를 이루고 있다. 이전까지 AI라고 하면 투자자가 자금을 쏟는 유행 같은 것이었다면 지금은 완전히 현실 세계에 도움이 되는 명확한 툴로 성장하고 있는 것.
이미 달리나 스테이블 디퓨전 같은 이미지 생성 AI를 활용해 큰 비용 없이 아트 제작에 착수하는 작가나 기업도 나오기 시작했다. 한편 구글 검색을 능가할지도 모른다는 평가를 받는 오픈AI 채팅봇인 챗GPT를 비롯해 세련된 디지털 어시스턴트가 등장하며 미래 인터넷의 가능성을 상상하게 만들기도 한다.
AI라고 하면 방대한 데이터와 계산 능력에 주목하지만 실제로 AI 활약에는 사람의 힘을 빠뜨릴 수 없다. AI가 탄생한 이후 그 뒤에는 반드시 인간이 있었다. 묵묵하게 이미지를 라벨링하거나 데이터를 정리하고 도덕적, 정치적 판단을 내리는 등 기계가 할 수 없는 작업을 맡아온 것이다.
2023년은 AI의 해가 될 수 있다. 새로 등장한 스타트업은 문서 생성 시스템을 만들거나 구글, 메타 같은 기존 기업도 자동화 시스템에 주력하고 있기 때문이다. Ai가 마치 마법처럼 대접받는 지금 문득 이런 마법을 실현하기 위해 밑단에 있는 많은 이들에게 눈을 돌리는 게 중요할 수 있다.
25년 역사를 보유한 구글이 부를 구축해 인터넷 업계를 지배하게 된 데에는 이 툴이 제대로 기능했기 때문이다. 하지만 방대한 검색이나 순위 알고리즘을 테스트하고 감독한 직원이 있었기 때문에 가능한 일이었다. 이들 중 상당수는 계약 직원이며 풀타임 구글 직원과는 소득이나 대우가 다르다. 알파벳 노동조합에 따르면 이들은 고스트 워커, 유령 사원으로 불린다고 한다. 2월 초 구글 품질 평가를 담당해온 직원 수십 명이 가장 수익성 높은 제품 제작에 공헌했지만 임금이 너무 낮다며 구글에 청원서를 제출하기도 했다. 이들은 구글을 위해 일하는 근로자가 건강 관리와 가족 휴가, 유급 휴가 등 대우를 받지 못한다고 주장한다. 패스트푸드 매장에서 일하면 구글보다 더 많은 수입을 얻을 수 있다는 지적이다.
차세대 기술도 인간 눈이 없이는 곤란하다. 얼마 전 챗GPT에 내장된 유해 콘텐츠를 배제하는 AI 필터를 지지하는 건 불과 시급 2달러에 불과한 케냐인 노동자라는 보도가 나왔다. 이들이 유해하다고 생각되는 콘텐츠를 걸러 AI 필터 구축에 공헌한 덕에 지금 챗GPT는 지금까지 없던 화제를 모으는 툴이 됐다고 할 수 있다. 다만 고문이나 자살, 근친상간, 아동 성적 학대 등 생생한 묘사가 있는 텍스트를 배분하는 작업은 이들에게 정신적으로 부담이 큰 것으로 보인다. 한 작업원은 동물과 인간과의 성 묘사를 읽고 이후 몇 차례씩 환청에 시달렸다고 말하기도 했다.
페이스북과 인스타그램을 소유한 메타는 오랫동안 사용자 악성 게시물을 어디까지 관리할 것인가 비판에 직면해왔다. 이런 목소리에 대해 메타는 객관적이고 정치적이며 중립적인 AI 시스템이 유해 콘텐츠를 검출, 삭제하고 있다고 반론을 취했다. 하지만 이를 지탱하는 건 전 세계에 있는 인간 중재자라는 걸 잊지 말아야 한다.
이들은 쾌적하고 안전하게 즐길 수 있는 콘텐츠를 유지하기 위해 관리, 감독을 한다. 하지만 계약 사원인 이들은 항상 살해나 자상, 절단 등 잔인한 묘사가 있는 영상이나 이미지를 봐야 한다. 가장 어두운 일면에 노출됐음에도 소득은 페이스북 정규직 엔지니어보다 몇 분의 1 수준이다. 미국 애리조나주에 근무하는 중재직 근무자 보고서에는 이들이 콘텐츠에서 받는 스트레스는 심해 마약에 의존하지 않을 수 없다고 기록되어 있기도 하다. 갑작스러운 음모설을 조사하던 중 반대로 이를 믿게 된 사람도 있다고 한다.
메타는 2020년 트라우마를 앓는 노동자에게 화해금 일부로 5,200만 달러를 지불해 직정 개선을 해오고 있지만 노동 현장 자체는 거의 변하지 않았다고 한다.
아마존 메카니컬 터크(Amazon Mechanical Turk)라는 이름은 18세기 자동 체스 플레이 인형에서 따온 것이다. 체스를 가리키는 드문 인형으로 등장했지만 실제로는 안에 사람이 들어가 있었다고 한다. 이 명칭에서 따온 아마존 메카니컬 터크는 이미지 라벨링이나 아름다움 평가 등 간단한 작업을 저렴하게 의뢰할 수 있는 크라우드 소싱 서비스다.
이런 단순 작업은 AI에게 서투른 작업이지만 이를 굳이 인간이 하게 하는 것으로 제프 베조스는 당시 이 새로운 비즈니스를 인공AI라고 불렀다는 보도가 나오기도 했다. 베조스는 2017년 인터뷰에서 일반적으로 인간이 컴퓨터에 요청을 하고 컴퓨터가 작업을 계산한다고 말하기도 했다. 하지만 메카니컬 터크 같은 인공AI는 인간에게는 간단하지만 컴퓨터에게 어려운 작업을 처리한다. 이를 수행하기 위해 컴퓨터 자체가 컴퓨터 서비스가 아닌 인간을 호출하는 것이다.
다음은 유튜브, 메타와 마찬가지로 유튜브는 상대적으로 해를 끼치지 않는 플랫폼을 유지하는 건 인공지능 감지 시스템과 수많은 계약 지원 덕이다. 이들은 하루 100∼300건씩 콘텐츠를 검토해 2%에서 5% 오류에 대응해왔다고 한다. 에러로 인정되는 영상은 동물 학대나 미성년에 대한 성범죄, 살인 등 추악한 내용이다. 이들은 업무상 트라우마로 인한 치료비를 자가 부담해야 하는 경우도 있었다고 한다.
틱톡은 다른 SNS보다 상대적으로 부드럽고 깨끗한 이미지가 있지만 이 역시 디지털 관리인 덕분이다. 틱톡은 AI 추천 알고리즘으로 잘 알려져 있지만 많은 시청자에게 사용하기 쉬운 플랫폼을 지지하는 건 저임금으로 노력하는 인간 감시원 덕이라는 것.
2021년에는 이들 중 1명이 비참한 영상을 열람해 자신이나 동료가 PTSD가 발병했다며 회사에 소송을 걸기도 했다. 소숭 중 이들은 하루 최대 12시간 콘텐츠를 열람하는데 종사한 것으로 알려지기도 했다. 방대한 영상이 올라오는 만큼 콘텐츠 하나를 25초 정도에 봐야 하는 셈이라고 한다. 경우에 따라선 페이스를 유지하기 위해 3개부터 10개까지 영상을 동시에 열람하는 경우도 있다고 한다.
제너레이티브 AI 이전부터 초보적인 어시스턴트가 급속도로 대두되면서 AI 시스템과의 대화는 매일 온라인 활동 중 일부가 되어가고 있다. 사용자는 지금 자신이 말하는 디지털 어시스턴트나 챗봇을 기계라고 믿고 있지만 반드시 그렇다고는 할 수 없다. 2015년 페이스북은 메신저를 위한 독자 가상 어시스턴트인 M을 출시한 바 있다. M은 배달 준비와 쇼 티켓 예약 등 다양한 작업을 수행하는데 도움을 줬고 놀라운 효율성을 자랑했다. 하지만 실제로는 초고도 AI가 아니라 인간 노동자가 질문해답팀을 이루고 있었다고 한다. AI가 대응할 수 없는 경우 휴먼 파워가 AI와 힘을 맞춰 사용자에게 답을 하는 것이다. 다만 사용자는 상대방이 인간인지 봇인지 구별하지 않는다. 결국 M 사용자는 2,000명에 그쳤고 2018년 서비스를 종료하기도 했다.
정용환 기자
이석원 기자
