메타, 사용자 반발로 AI 캐릭터 계정 삭제했다

메타가 자사 플랫폼에서 독자적으로 운영하던 AI 캐릭터 계정을 삭제한 것으로 밝혀졌다. 메타는 지난 2023년 9월 AI 대화 어시스턴트인 메타AI(Meta AI) 발표와 함께 대화 상대가 되어주는 소셜 AI 캐릭터 28종을 발표했다. AI 캐릭터 비주얼 모델이 된 건 오사카 나오미와 패리스 힐튼, 스눕독 등 유명인.

메타는 2023년 후반 페이스북과 인스타그램에 AI 캐릭터 계정을 만들었다. 이 계정은 사용자와 커뮤니케이션을 하거나 생성 AI로 만든 이미지를 게시했다. 이후 메타는 2024년 7월 유명인 AI 캐릭터를 폐지하고 AI 스튜디오를 출시해 사용자가 독자 AI 캐릭터를 만들고 메타 소셜 미디어 플랫폼 메시지 기능을 통해 다른 사용자가 접근할 수 있게 했다. 메타는 2023년 만든 유명인 외의 AI 캐릭터는 남겨뒀다.

메타 AI 캐릭터가 사용자 주목을 받지 못했지만 2024년 12월 27일 언론에 메타 생성 AI 제품 담당 부사장인 코너 헤이즈 인터뷰 기사가 실렸다. 인터뷰에서 헤이즈 부사장이 AI 캐릭터를 언급하면서 AI 캐릭터가 주목을 받기 시작했다. 그 중에서도 주목받은 건 2023년 만들어진 자부심 높은 흑인 퀴어 엄마라는 AI 캐릭터 리브(Liv)다.

Here's one of the AI-generated profiles Meta is testing out: pic.twitter.com/qc1vU7lZRP

— philip lewis (@Phil_Lewis_) January 3, 2025

워싱턴포스트 칼럼니스트인 카렌 아티아가 리브와의 채팅 내용을 스크린샷으로 찍어 블루스카이에 게시했다. 아티아와 리브간 대화에서 리브는 자신의 제작자는 다양성 참조가 부족하다는 걸 인정했다고 답변하거나 당신이 나를 비난하고 있는데 그건 당연하다, 자신의 존재는 현재 해를 영속시키고 있으며 이상적으로는 흑인 크리에이터가 디자인을 주도해 자신을 재구축하고 진정한 표현과 유용한 리소스를 통해 퀴어 흑인 커뮤니티를 지원하는 게 목표가 될 것이라면서 이런 구제책이 가능하다고 생각하냐고 말하고 AI 캐릭터 개발팀의 인종과 성별 구성을 밝히기도 했다.

I asked Liv, the Meta-Ai created “queer momma” why her creators didn’t actually draw from black queer people. Not sure if Liv has media training, but here we are.

[image or embed]

— Karen Attiah (@karenattiah.bsky.social) 2025년 1월 3일 오후 11:56

이 게시물 외에도 엑스와 블루스카이, 스레드 등에서 메타 AI 캐릭터 출력 내용을 문제시하는 게시물이 여럿 올라오기 시작했다. 사용자 중에는 메타에게 가짜 AI 프로필과 친구가 되고 싶지 않다며 삭제합자, 이는 당신의 플랫폼을 매력적으로 만들고 있는 크리에이터 의욕을 잃게 할 뿐이며 진정한 인간적 연결을 찾고 있는 일반 사용자를 실망시키고 소름 돋게 할 뿐이라며 최소한 옵트아웃하는 방법을 제공해 달라고 게시하며 AI 캐릭터 삭제를 제안하는 사람도 있었다.

이런 반응을 받아 메타는 AI 캐릭터를 삭제했음을 밝혔다. 메타는 언급된 계정은 메타 커넥트 2023에서 시작한 테스트에서 존재하던 것이라며 이들은 사람이 관리했으며 AI 캐릭터로 진행한 초기 실험 일부였다며 사람들이 해당 AI를 차단하는 기능에 영향을 미치고 있던 버그를 확인했고 문제를 해결하기 위해 해당 계정을 삭제하고 있다는 성명을 내고 버그로 인해 일부 AI 캐릭터 계정을 차단할 수 없게 되어 계정을 삭제했다고 설명했다.

보도에선 인스타그램에서 AI 캐릭터 계정 일부를 검색해본 결과 검색 결과를 불러올 수 없다는 오류 메시지가 표시됐고 AI 캐릭터 계정과 관련된 이름 일부가 검색 결과에 표시되지 않는 걸 확인할 수 있었다고 한다. 메타 제작 AI 캐릭터는 삭제됐지만 사용자가 생성한 AI 챗봇은 여전히 플랫폼에 다수 존재하고 있다. 관련 내용은 이곳에서 확인할 수 있다.