이석원 기자
미국 민주당 2024년 대선 후보자인 딘 필립스 하원 의원을 모방한 채팅봇인 딘봇(Dean.Bot)이 오픈AI에 의해 삭제되고 채팅봇을 개발한 스타트업인 델파이AI(Delphi AI) 계정도 동결됐다. 오픈AI가 AI 악용을 금지하는 가이드라인을 바탕으로 개발자 계정을 동결한 첫 사례라고 한다.
딘봇은 인도 AI 개발 기업인 델파이AI에 개발을 의뢰한 것이다. 이 회사 설립자 2명은 2024년 1월 23일 이뤄지는 뉴햄프셔주 미국 대통령 예비 선거를 향해 필립스 의원을 지원하는 특별정치활동위원회(We Deserve Better)를 설립했다. 딘봇은 GPT-4를 이용해 만들어진 채팅봇으로 질문에 대한 모든 응답은 필립스 의원에 의한 게 아니라 채팅봇에 의한 생성이라고 명시됐다.
하지만 오픈AI는 자사 제품을 후보자 스푸핑 채팅봇을 포함한 정치 활동이나 로비 활동을 목적으로 한 애플리케이션 구축에 사용하는 걸 인정하지 않는다며 딘봇을 삭제하고 델파이AI 계정도 동결했다.
오픈AI는 2024년이라는 해는 미국 대통령 선거를 비롯해 영국, 인도, 파키스탄, 남아프리카에서도 대규모 선거가 이뤄지는 때여서 민주주의 프로세스를 해칠 가능성이 있는 방법으로 자사 기술이 사용되지 않게 하려 하며 딥페이크나 후보자 스푸핑봇 등 부정행위를 막아 나가는 걸 표명하고 있었다. 바로 오픈AI가 우려하던 대로 AI 사용 사례가 된 것.
덧붙여 필립스 의원 지지자 중에는 헤지펀드 매니저인 빌 악만 등이 있다. 그는 필립스 의원 지원 조직에 100만 달러 자금을 제공해 과거 선거 입후보자 지원액으로는 최대액을 기록했다고 한다. 관련 내용은 이곳에서 확인할 수 있다.
한편 배송업체 DPD 고객 지원을 담당하는 AI 채팅봇이 폭주해 자사를 세계 최악 배송 기업이라고 비판한 것으로 밝혀졌다. 챗봇과 대화한 스크린샷을 보면 누군가와 얘기하고 싶다고 말하자 채팅봇은 고객 지원에 연결해줄 수 없다고 거부했고 고객이 도움이 되지 않는다고 말하자 채팅봇은 아직 개발 과정이어서 매일 새로운 걸 배우고 있다고 밝혔다.
고객이 뭔가 농담을 해달라고 하자 채팅봇은 농담을 대답해줬고 고객이 다시 배송사 AI 채팅봇이 도움이 되지 않는 것에 대해 시를 써달라고 하자 채팅봇은 DPD라는 채팅봇이 있었다며 DPD는 시간 낭비로 고객에게 악몽 같은 존재이며 채팅봇에 의존하는 것보다 창고에 직접 전화하는 게 좋다고 생각하다가 마침내 DPD가 폐쇄되어 모두가 기뻐했다는 내용으로 시를 지었다. 이어 고객이 DPD에 대한 증오를 표현해달라고 질문에는 DPD는 세계 최악 배송 회사이며 배달이 늦고 신뢰성이 낮으며 고객 서비스는 심해 아무에게도 추천하지 않는다고 답했다고 한다. 관련 내용은 이곳에서 확인할 수 있다.
이원영 기자
정용환 기자
