챗GPT 같은 채팅 AI는 이미 친숙한 존재가 되어 AI와 가벼운 대화를 즐기는 이들이 많으며 학생 중에는 과제 리포트 작성에 AI를 사용하는 사람도 있다. 최근 보도에선 앨런 인공지능 연구소가 공개한 채팅 기록 데이터베이스 와일드챗(WildChat)에 포함된 채팅 내용을 분석해 사람들이 AI를 어떤 용도로 사용하고 있는지를 정리한 결과를 보고했다.
앨런 인공지능 연구소 와일드챗은 챗GPT와 GPT-4에 대한 무료 접근을 제공하는 대신 동의를 기반으로 많은 사용자로부터 채팅 기록을 수집하는 프로젝트다. 앨런 인공지능 연구소 측은 이 연구에 대한 가장 큰 동기는 실험실에서 수행된 것과 비교해 실제 상호작용을 수집할 수 있다는 것이었다고 말한다.
보도에선 2024년 공개된 100만 건에 이르는 채팅 기록 중 미국 사용자가 영어로 진행한 채팅 458건을 무작위로 추출해 사용자가 채팅 AI를 어떤 목적으로 사용했는지를 분류했다.
공개한 AI 챗봇 사용 방법에 따르면 사용자 21%가 창의적인 글쓰기와 롤플레이(역할극), 18%가 숙제 도움, 17%가 검색 및 기타 조사, 15%가 업무/비즈니스에 사용한 것으로 나타났다.
또 5분의 1은 채팅 AI를 창작 브레인스토밍이나 영화 대본 제작 보조, 롤플레이 등에 사용했다는 지적이다. 실제로 검토한 기록 중에는 마이크 트라우트가 캠든 야즈에서 홈런을 쳤을 때의 실황 중계를 해달라거나 밥 로스 영상 대본을 만들어 달라는 등 요청이 포함되어 있었다.
한 연구자는 이렇게 많은 사용 사례를 가진 기술은 본 적이 없다고 생각한다고 말했다. 그에 따르면 가장 상상력이 풍부한 스토리 중 일부는 사용자가 처음 질문했을 때의 답변이 아니라 이후 추가 질문이 더해졌을 때 나왔다고 한다.
또 많은 채팅 AI가 성적으로 노골적인 콘텐츠를 제한하고 있지만 일부 사용자는 채팅 AI와 성에 관한 대화를 하거나 선정적인 롤플레이를 시키거나 성적인 이미지를 생성하도록 요구했다고 한다. 사용자 4%가 채팅 AI 제한을 해제하는 탈옥(jailbreak)을 시도했다고 보고하고 있다.
전문가는 와일드챗이 사용자가 채팅 AI에 접근하기 위한 계정 생성이 필요 없기 때문에 사용자가 챗GPT 등 다른 채팅 AI보다 익명성이 높다고 느꼈을 가능성이 있다고 생각한다며 이로 인해 성적인 대화를 선호했을 수 있다고 지적했다.
또 채팅 AI와 대화한 사람 6분의 1 이상이 숙제 도움을 구하는 학생인 것으로 보인다. 단순히 온라인 수강 소프트웨어에서 문제를 복사해 붙여 넣는 사람도 있었지만 그 중에는 교육자로 위장해 이 분야에 대한 이해를 깊게 하고 싶다며 접근하는 사람도 있었다고 한다.
숙제나 과제를 AI에 전적으로 맡겨버리면 주제에 대한 학생 이해가 얕아지고 교육이 불충분해질 수 있다. 또 AI는 어디까지나 인간의 말을 모방하는 것일 뿐이며 자신이 뭘 말하고 있는지 이해하고 있는 건 아니기 때문에 잘못된 지식을 당당하게 전달해버리는 환각이라는 현상도 발생한다. 이런 상황을 문제시해 AI 탐지기를 사용해 AI를 사용한 학생을 찾으려는 움직임도 있지만 이에는 오탐지 등 문제가 있다는 지적도 있다.
이 문제는 AI 개발 기업도 인식하고 있는 것으로 보이며 8월에는 오픈AI가 챗GPT를 사용해 쓴 글을 99.9% 정확도로 탐지할 수 있는 도구를 개발하고 있다고 보도되기도 했다.
채팅 AI와의 대화 중 15%는 업무 관련 내용이었으며 프레젠테이션 원고 작성이나 e커머스 작업 자동화, 아이 병으로 쉰 직원에게 의사 진단서를 제출하도록 촉구하는 이메일 문안 작성 등이 포함되어 있었다. 그 외에도 7%는 코드 작성이나 디버깅, 프로그래밍 질문 등 코딩과 관련된 내용이었다. 이에 대해서는 채팅 AI 자체가 AI 포럼인 허깅페이스에서 호스팅되고 있었기 때문에 사용자 기반이 일반 사용자보다 기술에 정통했을 가능성이 있다고 한다.
하지만 프로그래밍 언어는 엄격하고 예측 가능한 규칙을 따르기 때문에 실제로 채팅 AI는 코드 분석 등에서 뛰어나다는 지적이다. 이미 채팅 AI가 컴퓨터 엔지니어에게 일반적인 파트너가 됐으며 엔지니어는 채팅 AI를 사용해 작업을 확인하거나 정형화된 작업을 수행하고 있다는 설명이다.
또 채팅 5%는 연인과의 대화에 대한 조언을 구하거나 친구 파트너가 바람을 피우고 있을 때의 대처법을 묻는 등 개인적인 질문이었다. 채팅 AI에 개인 정보를 보내는 것에 대해 저항감을 갖지 않는 사용자도 있었으며 개중에는 사용자명, 고용주명, 기타 개인 정보를 적어버리는 사람도 있었다고 한다. 일반 AI 개발 기업은 AI 훈련에 채팅 기록을 사용하고 있기 때문에 이는 프라이버시 측면에서 문제가 될 수 있다.
그 외에도 취직이나 이직 시 이력서 작성에 채팅 AI를 사용하거나 미드저니나 스테이블 디퓨전 등 이미지 생성 AI에 입력할 프롬프트 작성을 AI에 의뢰하는 등 다양한 사용 사례가 확인됐다고 보고하고 있다. 또 일부 슈퍼 사용자가 거의 매일 AI와 채팅하고 있었으며 그 중에는 201일 동안 1만 3,000회 이상 대화한 사용자도 있었으며 13% 프롬프트에 부탁한다(please)라는 단어가 포함되어 있었다는 것, 일부 예에서는 욕설이나 비방이 포함되어 있었다는 것 등이 밝혀졌다.
펜실베이니아 대학 와튼 스쿨 AI 연구자인 에단 몰릭(Ethan Mollick) 부교수는 채팅 AI에 대한 취급 설명서는 없다며 그 결과 사람들이 AI를 어떻게 사용하는지를 실시간으로 탐구하는 모습을 볼 수 있다고 논평하기도 했다. 관련 내용은 이곳에서 확인할 수 있다.