미국 일부 도시에선 기관의 얼굴인식 기술 사용이 전면 금지되어 있지만 전 세계적으로 보면 제한 없이 감시되고 있다고 할 수 있다. 이런 상황에서 EU는 얼굴 인증 데이터 사용에 대한 시민의 권리를 마련하기 위해 규제를 마련하려 한다는 보도가 나왔다. 얼굴인식 기술의 무차별 사용을 제한하려는 것이다. 소식통에 따르면 시민에게는 자신의 얼굴 인증 데이터가 언제 사용되고 있는지 알 권리가 주어진다.
보고서에 따르면 얼굴 인증 기술 제한은 AI 사용에 대처하고 이런 종류 기술에 대한 국민의 신뢰와 수용을 촉진하기 위한 광범위한 계획 중 일부다. AI 규제에 대한 글로벌 기준을 설정하는 걸 목표로 하며 개인을 적절하게 보호하는 명확하고 통일된 규칙이다. 또 AI 응용 프로그램은 기본 권리에 심각한 위험을 초래할 수 있으며 규제되지 않은 AI 시스템은 책임 있는 설명 없이 시민에 악영향을 미치는 결정을 내릴 수 있다고 밝히고 있다.
얼굴 인증 기술이 어떻게 부정확하게 오용되고 남용되는지에 대해 터무니 없는 것에서 진실성이 있는 것까지 경우에 따라선 생명을 위태롭게 이르는 수많은 보고가 있다. 얼굴 인증 기술에 대해 논의할 때 자주 거론되는 것이다. 공공장소에서의 얼굴인식 기술 무차별 사용을 대상으로 한 이번 EU의 계획은 공공기관과 민간기업 모두에게 확대되는 것이다. 이들 기관은 지금까지 사용을 효과적으로 제한하거나 종료할 명시적 법률이나 투명성에 대한 법적 요구 사항이 거의 없었기 때문에 비윤리적인 방법으로 이 기술을 확장하고 유지할 수 있었다.
EU의 계획은 아직 초기 단계에 있는 것으로 알려져 있는 만큼 규제의 정확한 매개변수가 어떻게 될지는 알 수 없다. 그럼에도 현재 무책임하게 이용되는 기술에 대처하기 위한 포괄적 법률을 제정하려는 건 진일보한 것이라고 할 수 있다.
미국은 이런 광범위한 계획을 아직 검토하지 않았지만 샌프란시스코와 서버빌, 오클랜드 등 3개 도시가 얼굴인식 기술 금지를 제정했으며 다른 도시도 비슷한 금지를 검토하고 있다. 대규모 감시 시스템이 프라이버시와 데이터에 대한 개인 권리와 공존할 수 있는지 여부도 알 수 없다. 물론 자신의 생체인증 데이터가 어떻게 사용되는지 개인이 알 권리를 주는 건 투명성에 중요한 단계라고 할 수 있다. 하지만 이런 데이터에 불만이 있다면 어떤 요구를 할 수 있을까.
또 규제가 없는 것보다는 있는 편이 좋지만 인권 운동가 등 활동이 취약한 지역 사회를 대상으로 가능하면 기술에 제한을 더하는 것만으론 불충분하다는 의견이 나올 가능성도 있다. 모든 개인 정보보호 전문가가 기술을 금지해야 할 필요가 있다고 생각하는 건 아니다. 지금은 남용 예가 많지만 기술을 통한 좋은 결과에 대한 확신이 설 때까지 공공기관이나 민간기업이 사용에 대한 깊은 고려가 필요할 수 있다. 관련 내용은 이곳에서 확인할 수 있다.