“감정 인식 기술 사용하지마” 줌에 공개서한

“감정 인식 기술을 사용하지 말라.” 27개 인권단체가 줌(Zoom) 측에 감정 인식 기술 개발을 중단하라고 요구하는 공개 서한을 발표했다. 카메라에 비치는 인간 감정을 자동 판별해주는 기술에 대해선 이전에도 전문가로부터 정밀도가 낮은 문제나 불충분한 테스트 등에 대한 지적이 나오기도 했다.

줌 CEO인 에릭 위안(Eric S. Yuan)에게 보낸 공개 서한에는 FFTF(Fight for the Future)d를 중심으로 한 인권 단체 그룹이 줌에 의한 감정 데이터 수집은 프라이버시와 인권 침해라고 비판하고 있다. 또 감정 인식 기술이 비백인종에게 불리한 편향이 있다고 주장하고 있다.

인권 단체 그룹은 줌 측에 화상회의 업계 리더 역할을 수행하고 소규모 기업에 따르는 기준을 설정하라고 호소하고 있다. 줌 측이 해당 기술이 영상 커뮤니케이션에 존재해선 안 된다는 걸 명확하게 해줘야 한다는 얘기다.

인권단체 담당자는 줌이 이런 계획을 진행하면 이 기능은 특정 인종과 장애자를 차별하고 수백만 개 기기에 스테레오 타입을 포함시키게 될 것이라고 밝히고 있다. 사용자를 마이닝해 기업 영리 활동에 이용할 뿐 아니라 감정 인식 기술에는 더 잔인한 사용법이 있을 수 있다는 지적이다.

감정 인식 기술은 기술 업계에서 계속 관심을 받아왔지만 최근에는 줌 같은 기업이 주목하고 있다. 이번 서한은 줌이 지난 4월 프로토콜 안에서 감정 AI 활용법을 연구 중이라고 밝힌 뒤에 이뤄진 것이다. 줌은 회의 호소트가 회의 이후 참가자 감정을 분석할 수 있는 줌 아이큐 포 세일(Zoom IQ for Sales) 기능을 출시할 계획이라고 한다. 이 기능에선 참가자가 얼마나 열의를 갖고 회의에 참가했는지 분석할 수 있다. 다만 회의 참가자 입장에선 자신의 동기나 의욕이 가시화되어버릴 수 있어 무서운 툴이 될 수 있다.

케이트 크로포드(Kate Crawford) 서던캘리포니아대학 교수는 AI 환상(Atlas of AI)이라는 저서에서 감정 인식은 모든 얼굴을 분석하는 것으로 감정을 검지해 분류하는 걸 목표로 한다고 정의하고 있다. 그는 현재 시스템이 목표를 의미 있는 형태로 실현할 수 있다는 증거는 거의 없다고 말한다.

그는 얼굴 움직임과 기본 감정 카테고리간 연관성을 자동화하는 어려움은 더 큰 문제로 이어질 것이며 얼굴 표정은 우리의 정직한 내면 상태를 거의 비추지 않는 게 아니냐는 어려운 문제가 있다고 지적한다. 진짜로 행복하다고 느끼지 않는데 미소를 짓는 사람이라면 누구나 실감할 수 있는 얘기다.

이런 우려와는 별개로 기술 기업은 감정 인식 기술을 실제로 시험하기 시작했다. 인텔은 가상 교실 암ㄴ에서 사용하려고 한다고 알려져 있다. 감정 검지와 인식 소프트웨어 관련 시장은 예측에 따르면 224년까지 전 세계 560억 달러에 달할 전망이라고 한다.

액세스나우 수석 정책 분석가인 다니엘 루퍼(Daniel Leufer)는 인간 감정과 가장 깊은 부분 사고는 결코 감시해선 안 된다고 말한다. 감정 인식 소프트웨어는 비과학적이며 사회적으로 야간 집단을 차별하는 일이 반복적으로 나타났다며 우리 사회에 이 같은 건 존재해선 안되며 줌 같은 기업이 플랫폼을 제공하는 회의나 온라인 레슨, 다른 인간끼리 대화 속에 사용돼선 안 된다고 강조한다.

인권단체 그룹은 서한에서 지금까지 학술 관계자가 표명해온 우려를 반복하며 현재 감정 인식 기술이 차별적이며 비과학적이라고 주장한다. 또 이들은 기술을 급하게 사용해 발생할 수 있는 잠재적 문제에 대해서도 경고하고 있다. 이런 조악한 기술을 사용하면 학생이나 근로자, 기타 사용자에게 위험을 초래할 수 있으며 잘못된 감정을 표출했다고 해서 패널티를 부과하려고 할 수 있다는 것이다.

인권단체는 줌을 비판할 뿐 아니라 화상 통화 엔드투엔드 암호화 통합, 회의 참가자 의식 추적을 삭제한 것 등에 대해선 높이 평가한다고 밝혔다. 인권단체들은 줌 측에 사용자와 사회적 평가를 배려하고 있다는 걸 나타낼 추가 기회라며 줌이 업계 리더이며 수백만 명을 대상으로 가상 미래를 지원하기 때문이라고 덧붙였다. 관련 내용은 이곳에서 확인할 수 있다.