英 ICO 경고 “AI 감정 분석 도구는 아직 위험”

영국 개인정보보호감독기관 ICO가 AI 감정 분석 도구에 대해 기업에 경고를 하고 있다. 미완성 기술이며 사용하는 데 위험이 동반된다는 것.

ICO는 성명을 통해 바이오메트릭스와 감정에 관한 AI 시장 발전은 아직 성숙되지 않았다며 지금은 잘 작동하지 않을 뿐 아니라 앞으로도 계속 작용하지 않을 수도 있다고 밝혔다. 또 ICO는 부정확한 데이터 해석에 의해 개인에 대해 부적절한 판단이나 추측을 실시하는 건 차별로 이어질 위험이 있다고 우려하고 있다.

감정 인식과 감정 분석은 얼굴 인증과 같은 생체 인식 기술 일부다. 다만 얼굴 인증과는 실제로는 크게 다르다. 스마트폰 해제를 위해 필요한 얼굴 인증은 적절한 사용자인지 여부를 얼굴로 판단하는 것이다. 반면 감정 인식은 얼굴과 움직임, 바디 랭귀지, 목소리 톤 등 데이터를 바탕으로 기쁘거나 슬픈 감정을 예측하는 것이다.

ICO는 이전부터 기술에 의한 얼굴 인증에 난색을 나타내고 있어 공항 ID 확인으로서의 얼굴 인증 기술 등도 의문시하고 있지만 그 중에서도 감정 분석에는 엄격한 자세를 보이고 있다. 이유는 의사 과학적이고 신뢰성이 낮기 때문이다.

AI 연구자 케이트 크로포드(Kate Crawford)는 감정 분석 자동화에 대해 얼굴 움직임과 기본적인 감정 관계를 자동화하는 어려움은 감정을 제한된 수 개별 범주로 적절하게 분류할 수 있는지 큰 문제로 이어지고 있다면서 자신의 감정이 조금 나오는 것만으로 웃는 사람 자체가 정말 마음 속에서 행복을 느끼고 있다는 건 증명하기 어렵다고 말한다.

감정을 얼마나 표현할지에 대해선 사람마다 표현 방법도 천차만별이다. 예를 들어 AI가 기쁘거나 슬프다는 감정을 판단하는 게 아니라 눈짓이나 몇 초간 특정 동작을 보였다는 수치만 나타내기도 하는데 이 수치 정확도라는 게 분명하지 않다. 그 사람이 얼마나 감정을 나타내는 타입인지 알 수 없기 때문이다. 관련 내용은 이곳에서 확인할 수 있다.