美 뉴욕 시장, AI 로보콜로 다언어 화자로 착각하게 만든다?

미국 뉴욕시 에릭 아담스 시장이 원래 자신이 말할 수 없는 스페인어 등을 이용한 자동 음성 통화를 유권자에게 보내 마치 다언어를 말할 수 있는 것으로 생각하게 하고 있었다는 지적이 나오고 있다.

기술 감시 감독 NPO인 STOP((The Surveillance Technology Oversight Project)는 아담스 시장이 이런 AI 생성 다언어 음성으로 로보콜을 하고 있다고 비난했다. STOP 측은 시장이 딥페이크를 만들었고 뉴요커에게 자신이 원래 말할 수 없는 언어를 말할 수 있는 것처럼 생각하게 하는 건 오웰적이라며 모든 뉴요커 모국어를 이용한 발표는 필요하지만 딥페이크는 소름 끼치는 프로젝트라고 어려운 의견을 밝혔다.

아담스 시장은 10월 16일 열린 뉴욕시 자원과 중소기업 경영자를 이어주는 마이시티 챗봇(MyCity Chatbot) 발표 회견에서 다국어 로보콜에 대해 대화형 AI는 훌륭하다며 한 번 스크립트를 입력하면 자신의 목소리를 좋아하는 언어로 바꿀 수 있다고 밝혔다. 이에 대해 시장이 복수 언어를 말할 수 있다는 오해를 줄 가능성이 있는 것 아니냐는 질문에 그는 영어 외 언어를 모국어로 하는 시민에게 연락하기 위한 방법이라고 밝히고 이는 윤리적으로 옳은 것인지 잘못된 것인지보다 자신에게는 도시를 운영해야 한다는 사정이 있어 시민이 이해할 수 있는 언어로 말해야 한다고 밝혔다.

뉴욕시 측에 따르면 시장 목소리를 이용한 로보콜은 400만 명 이상을 대상으로 이뤄졌고 이 가운데 스페인어는 수천 건, 베이징어 160건 이상, 광둥어 89건 등이었다고 한다. 한 전문가는 가능한 언어로 말하는 건 훌륭한 일이지만 말하는 척하는 건 완전히 다른 문제라며 다국어를 할 수 없는 시장에는 이런 부분에 심각한 윤리적 우려가 있다고 생각한다고 밝혔다.

참고로 아담스 시장 이전 뉴욕 시장도 영어 외에는 그다지 능통하지 않았고 마이클 블룸버그는 스페인어를 말하려는 시도를 해 SNS 등에서 조소를 당하기도 했다. 아담스 시장 자신이 이전 시장이 기자회견에서 스페인어를 사용하려 했던 모습을 놀리기도 했다. 관련 내용은 이곳에서 확인할 수 있다.