유럽의회가 2021년 10월 6일 법집행기관이 얼굴 인증 기술이나 범죄를 예측하는 기술을 사용하는 걸 금지하도록 요구하는 결의를 채택했다고 발표했다. 유럽의회가 인공지능을 이용한 수사 금지에 나선 배경에는 알고리즘 편향에 의해 차별이 조장될 우려가 자리잡고 있다.
찬성 377, 반대 248, 기권 62로 채택된 결의안에서 유럽의회는 AI 알고리즘은 편견이 존재하고 있으며 법집행기관에 의한 수사와 국경 검문소 등 장면에서 AI가 차별에 이용되는 걸 방지하기 위해 인간에 의한 감독과 강력한 법적 권한에 의한 제한이 필요하다고 주장했다. 구체적으론 얼굴 인식 등 생체 인식 기술이나 범죄 발생을 사전에 예측하는 예측 치안, 시민을 감시하고 평가하는 중국 사회 신용 시스템 같은 기술이 금지 대상이 된다.
유럽의회는 발표 성명에서 AI를 이용한 식별 시스템은 소수 민족, LGBTI, 노인, 여성 오인율이 높다는 걸 지적하고 이는 법 집행과 사법 장면에서 우려되고 있다고 지적했다. 더구나 유럽의회는 만일 공공기관이 AI를 이용할 경우 오픈소스 소프트웨어를 사용하는 등 투명성과 추적 가능성을 충분히 확보해야 한다고 밝히고 있다.
보도에 따르면 이번 결의안은 법적 구속력은 없지만 유럽의회가 앞으로 AI 관련 법안 등을 취급할 때 결정에 영향을 미치는 강한 시그널이 될 수 있다. 따라서 EU에선 테러 등 중대 범죄에 대항하는 조치가 아니라면 얼굴 인증 기술을 포함한 생체 인식 기술이 공공장소에서 사용되는 게 크게 제한될 수 있을 것으로 보여진다.
불가리아 유럽의회 의원은 결의안 채택에 대해 생체인식 기술은 효과가 낮고 종종 차별적인 결과를 가져오는 것으로 판명되고 있기 때문에 이 결의에 따라 법 집행을 목적으로 하는 얼굴 인증 시스템 도입을 일시적으로 중단할 걸 촉구한다며 AI를 이용한 예측 치안과 시민 감시로 이어질 생체 인식은 명확하게 반대하며 이번 결정은 모든 유럽 시민에게 큰 승리가 될 것이라고 강조했다.
범죄 단속이나 예방을 목적으로 한 AI 관련 기술이 도입되는 지역이 있는가 하면 차별과 잘못된 인식에 대한 우려로 사용을 금지하는 움직임도 가속화되고 있다. 2020년에는 테러나 폭력 범죄 증가를 배경으로 영국 런던에서 시민 얼굴을 실시간으로 모니터링하는 라이브 얼굴 인증 시스템 사용이 시작됐지만 EU는 2020년부터 공공장소에서의 얼굴인식 기술 사용 금지를 검토하고 있다. 미국에서도 첫 얼굴 인증 시스템에 의한 오인 체포 사건 발생 등으로 배경으로 여러 지자체가 잇달아 얼굴 인증 기술 사용을 금지하는 법률을 제정하고 있다. 관련 내용은 이곳에서 확인할 수 있다.