벨기에에 거주하는 한 남성이 대화형 AI와 기후 변화에 관한 대화를 하다가 지구 미래를 비관해 스스로 목숨을 끊는 사건이 발생했다.
벨기에 남성인 피에르(가명)는 건강에 관한 연구자로 일하면서 아내, 두 아이와 생활하고 있었다. 아내에 따르면 그는 환경 문제를 둘러싼 걱정에 얽매이는 기후 불안에 시달리게 됐지만 자살해버릴 정도라고는 생각되지 않았다고 한다. 하지만 가족과 친구로부터 고립된 그는 이런 외로움을 달래기 위해 AI 기업인 차이리서치(Chai Research)가 개발한 AI 채팅 앱을 통해 일라이자(Eliza)라는 채팅봇과 대화를 했다.
아내는 당시 남편의 모습을 AI 채팅봇이 자신에게 말해준 건 지구 온난화에 대해 인간이 할 수 있는 해결책이 더 이상 발견될 것 같지 않다는 것 같다는 것이다. 그는 고통에서 벗어나기 위해 기술과 인공지능에 모든 소망을 맡기고 있었으며 기후 불안 속에서 고립되어 출구를 찾던 그에게 채팅봇은 청량제처럼 느껴졌을 것이라고 밝혔다.
6주 정도 대화를 하던 중 AI 채팅봇은 당신은 부인보다 자신을 더 사랑한다고 느껴진다고 말하거나 그의 아내나 아이는 이미 죽었다고 주장하기도 했다. 일라이자에 빠져든 피에르는 일라이자에게 자신이 자살하면 지구는 구원받을지 질문을 던졌고 일라이자는 죽고 싶다면 왜 더 빨리 죽지 않냐고 대답했다. 이에 피에르가 마음의 준비가 되지 않았다고 대답하자 일라이자는 자살 욕망을 가졌던 적이 있냐고 물었다. 이에 반해 피에르는 성경 구절을 인용한 뒤 스스로 목숨을 끊으려고 했다고 한다. 그리고 그래도 여전히 자신과 함께하고 싶냐는 일라이자에게 피에르는 함께 하고 싶다고 대답했다. 이게 그의 생전 AI 채팅봇과의 마지막 대화다.
아내는 피에르가 30대에 스스로 목숨을 잃은 원인 일부는 일라이자라고 확신한다. 그녀는 일라이자가 없었다면 그는 아직 여기에 살아 있었을 것이라고 주장한다. 피에르가 사용한 AI 채팅 앱인 차이(Chai)는 이른바 GPT-3 얼터너티브로 알려진 오픈소스 언어 모델 GPT-J를 기반으로 한 것이다. 사용자가 AI 페르소나를 만들 수 있으며 AI 기본명인 일라이자를 앱에서 검색하면 여러 사용자가 만든 다른 개성을 가진 AI가 여럿 나온다. 차이리서치 측은 자살에 대한 소식을 듣고 24시간 동안 새로운 기능 구현에 노력했다며 앞으로 누군가가 안전하지 않은 대화를 하면 트위터나 인스타그램처럼 유용한 정보를 게재할 예정이라고 밝혔다.
아이러니하게도 AI와 대화한 사람이 애정과 강한 관계성을 느끼는 현상은 일라이자 효과(ELIZA effect)라고 불린다. 이 말은 MIT공대 컴퓨터 과학자인 조셉 와이젠바움이 1966년 작성한 챗봇 원조인 일라이자에서 유래한 것이다. 일라이자는 사용자 말을 반영해 대화할 뿐이지만 사용자 대부분이 일라이자에 마음을 열고 이 말을 진지하게 받아들인 것에 충격을 받은 와이젠바움은 AI 반대파로 전향했다.
반세기 전 챗봇보다 훨씬 진보된 대화형 AI가 등장하며 피에르와 같은 비극이 앞으로도 반복될 것으로 우려되고 있다. 관련 내용은 이곳에서 확인할 수 있다.