이석원 기자
이제 얼굴인증으로 스마트폰 잠금을 해제한다. 개인을 얼굴로 말할 뿐 아니라 개인의 감정을 분별하는 세상이다. 표정을 읽어 그 사람이 뭘 생각하고 있는지를 추측하기도 한다. 무서운 생각이 들수도 있지만 유용한 일일까. 뉴욕대학 AI 연구소인 AI나우(AI Now)가 얼굴 인증 기술의 위험성을 호소하는 보고서를 공개해 눈길을 끈다.
이 보고서가 위험시하는 건 감정 인식에 의한 데이터가 다양한 분야에서 사물의 결정에 큰 영향을 미칠 수 있다는 것이다. 예를 들어 면접 합격이나 보험 가격, 학교 성적 등에서 개인의 표정을 읽은 데이터가 결과를 좌우한다면 무서운 일이 될 것이다.
무엇보다 두려운 건 감정 인식이 아직 정확하지 않다는 것이다. 보고서는 감정 인증의 부정확성을 지적하는 사례를 일부 소개하고 있다. 예를 들어 사운드인텔리전스(Sound Inteligence)가 개발해 학교나 병원 등에서 이용하는 흥분도를 확인하는 시스템은 단순한 기침을 흥분 사인으로 인식했다는 보고도 있다. 예를 들어 페이스++(Face ++)이나 마이크로소프트 페이스 API를 NBA 선수가 사용하면 흑인 선수 감정이 다른 선수보다 공격적으로 포착되기도 한다. 중국에선 학교에 도입한 학생 집중도를 추적하는 시스템의 부정확성도 있다. 공부하는 자세는 사람마다 다른데 외형은 앞을 향해 자세가 좋지만 집중하지 않는 사람이 있거나 곁눈질을 하면서도 집중한 사람이 있다면 전자가 집중도가 높다는 외형적 특징에 따른 잘못된 결과를 내는 식이다.
이런 예를 들어 보고서는 감정 인증 제품의 과학적 근거와 정확도는 없다고 지적한다. 이를 근거로 감정 인식에 대한 이해가 깊어지고 더 발전할 때까지 정부와 기업이 이용하는 건 자제해야 하며 업계는 인종 차별과 여성 멸시에 대해 더 진지하게 고민해야 한다고 조언한다.
이 보고서는 또 데이터를 잡는 쪽이 권리를 주장하는 중요성도 언급했다. BIPA(Illinois Biometric Information Privacy Act) 그러니까 동의 없이 생물학적 데이터를 수집해 사용된 경우 요청할 수 있는 권리 법인 활성화도 촉구하고 있다. 또 모니터링 도구와 같은 제품을 개발할 경우 직원이 노라고 말할 권리와 정부가 이용하는 간첩 도구를 개발할 때 기업 측에 이를 통보해야 한다고 지적한다.
감정 인식이란 아직 사회에서 사용되지 않는 것 아니냐는 건 모르는 얘기다. 디즈니는 영화 반응을 보기 위해 관객 표정을 추적하고 애플은 2016년 페싯트(Facet)라는 감정 인증 도구를 개발한 스타트업 이모션트(Emotient)를 인수한 바 있다. 중국에선 이슬람 이민자 특정이나 홍콩 시위에서 이미 얼굴 인증 기술을 도입했다. 여기에 만일 감정 인식까지 더한다면 과연 어떤 일이 벌어질까. 얼굴에 나와 버린 표정이 모두 단순한 건 아니다. AI를 과신할 때 생길 수 있는 무서움에 대해 다시 한 번 경각심을 가질 필요가 있다. 관련 내용은 이곳에서 확인할 수 있다.
