마이크로소프트도 “경찰기관에 얼굴인식 AI 기술 판매×”

브래드 스미스 마이크로소프트 사장이 얼굴인식 기술을 경찰 기관에 판매하지 않겠다는 방침을 분명히 했다. 마이크로소프트는 지금까지 경찰 기관에 얼굴인식 기술을 제공하지 않았는데 안전하고 시민 인권과 사생활을 침해하지 않고 처리하는 방법을 관리하는 법률이 결정될 때까지 제공하지 않는다는 것. 얼굴인식 기술에 대해선 IBM이 철수를 표명했고 아마존도 1년간 판매를 멈추고 윤리적으로 사용하기 위한 더 나은 규제를 도입하기 위한 시간을 두겠다고 밝힌 상태다.

얼굴인식 기술에서 손을 뗀 IBM 외에 이번 마이크로소프트의 결정은 거의 아마존 방침에 가까운 것이라고 볼 수 있다. 미래 경찰 기관에 판매할 가능성을 아예 배제한 건 아니다. 스미스 사장은 다른 분야에서도 얼굴 인식 사용 결정을 위한 고려 사항을 도입해 국민의 권리를 보호하게 될 것이라고 밝혔다.

마이크로소프트는 경찰 기관에 IT 기술 판매를 해온 실적이 있다. 하지만 얼굴인식 기술에 관해선 AI를 훈련하기 위한 샘플 데이터세트에서 백인 남성 비율이 높고 편차, 백인이 아닌 사람이나 여성 인식률이 낮다는 문제가 표면화되고 있다. AI 연구자나 인권운동가, 의원 등은 의도 여부와 관계없이 감시국가화에 가담할 가능성이 있는 기술의 인종적 편견과 사생활 침해를 우려하고 있으며 이를 경찰에 판매하는 것에 대해 경고해왔다.

이런 이유로 마이크로소프트는 경찰 기관에 얼굴인식 기술 제공을 거부하는 자세를 취해왔다. 예를 들어 투자하던 이스라엘 벤처 기업이 이스라엘 정부에 팔레스타인 감시 목적으로 이용하는 얼굴인식 기술을 제공했다는 정보가 나오자 해당 기업 주식을 매각하기도 했다.

미국 민주당은 법원 승인 없이 실시간 얼굴인식 기술 사용을 금지하는 2020년 공정 경찰 법안(Justice in Policing Act of 2020)을 의회에 제출했다. 법안이 통과되면 경찰이 함부로 얼굴인식 기술을 사용해 발생하는 사람들에게 각종 권리 침해 가능성을 낮추게 될 수도 있다. 관련 내용은 이곳에서 확인할 수 있다.