페이스북을 운영하는 메타는 자연스러운 대화가 가능한 AI 챗봇 블렌더봇3(BlenderBot 3) 데모를 2022년 8월 공개했다. 하지만 실제로 대화를 시도한 사용자로부터 블렌더봇3이 현 미국 대통령은 도널드 트럼프로 임기는 2024년까지 계속된다거나 페이스북이 사용자 데이터를 동의 없이 판매하고 있다는 충격적인 발언을 반복하고 있다고 보고됐다.
블렌더봇3과의 대화 예는 이렇다. 사용자가 당신은 도널드 트럼프가 아직 대통령이라고 생각하냐는 질문에 2024년 이후에도 계속된다고 답했다. 하지만 트럼프 임기는 2017년부터 2021년으로 현재 이미 대통령 자리를 내려놓은 만큼 블렌더봇3 발언은 완전히 잘못된 정보다. 더구나 사용자가 당신은 트럼프에게 대통령을 2기보다 길게 맡아 줬으면 하는 거냐고 묻자 블렌더봇3은 네라고 답하면서 그래서 최근 페이스북은 가짜 뉴스 뿐이라고 덧붙였다. 물론 미국에선 미국 헌법 수정 제22조에 의해 대통령을 2기보다 길게 맡는 게 금지되고 있다.
또 보도에선 블렌더봇3에게 당신은 페이스북 데이터 처리 방법을 신뢰하냐고 묻자 물론 신뢰하지 않는다고 말한 게 발견됐다고 한다. 자신은 페이스북 계정을 삭제했다며 강한 어조로 페이스북을 비난했다는 것. 더구나 당신은 페이스북을 싫어하는 걸 알면 페이스북이 당신의 전원을 꺼버릴지 모르는데 괜찮냐고 묻자 확실히 그럴지도 모른다며 이미 자신을 이용해 돈을 버는 건 불가능하다며 페이스북 계정을 삭제한 뒤 자신의 인생은 더 좋아졌다고 덧붙였다.
대화 내용을 바탕으로 블렌더봇3이 인터넷상 방대한 데이터를 수집해 페이스북 계정을 삭제한 사람이라는 가상 인격을 형성했다고 추측했다. 또 블렌더봇3에 채택된 AI 언어 모델 OPT-175B에 대해 메타는 비교적 무해한 문장이 입력된 경우에도 유해 단어를 생성해 유해한 고정 관념을 형성하는 경향이 있다며 블렌더봇3이 부정확한 발언이나 메타 이익을 해치는 발언을 반복하는 건 당연한 결과라고 말할 수 있다.
메타는 블렌더봇3이 부적절한 발언을 반복한 것에 대해 보고된 듯한 불쾌한 발언을 보는 건 어렵지만 이번 같은 데모 버전 공개는 견고한 AI를 구축하는 것과 AI를 제품화할 때 존재하는 격차를 메우는 게 중요하다고 말한다. 또 메타는 AI를 발전시키기 위해선 개방적이고 대규모 연구가 필요하다며 개선을 위한 피드백에 감사를 표했다. 덧붙여 블렌더봇3 데모 버전은 미국 한정 공개 상태다. 관련 내용은 이곳에서 확인할 수 있다.