英 주요 기차역서 아마존 AI 감시 시스템 도입했다

영국 주요 역에서 아마존 AI를 이용한 감시 시스템이 가동되고 있었다는 사실이 밝혀졌다. 감시 시스템은 카메라로 촬영한 사람의 얼굴을 자동으로 인식해 나이와 감정 등을 읽어내고 있었다고 한다.

정부 감시와 검열에 반대하는 단체인 빅브라더워치(Big Brother Watch)는 영국 철도망을 관리하는 공영기업인 네트워크레일(Network Rail)에 감시 시스템에 관한 문서 공개를 요청했다. 그 결과 네트워크레일로부터 감시 시스템 효과에 관한 보고서를 입수하는 데 성공했다.

보고서를 분석한 결과 런던 유스턴 역과 워털루 역을 포함한 영국 내 8개 역에서 아마존 AI를 이용한 감시 시스템이 가동되고 있었다는 사실이 밝혀졌다. 감시 시스템은 역 이용객 얼굴을 자동 인식해 나이, 성별, 감정을 읽어내고 있었다고 한다. 또 감시 시스템은 AI를 통해 선로 침입자, 플랫폼 혼잡 상황, 달리기, 소리 지르기, 스케이트보드 타기, 흡연 등 반사회적 행동을 감지하고 있었다고 한다.

⚠️We’ve uncovered documents revealing that eight train stations trialled Amazon’s AI surveillance software with their CCTV cameras – with some analysing passengers’s age, gender and emotions

“The rollout and normalisation of AI surveillance in these public spaces, without much… pic.twitter.com/dJLS75ZURH

— Big Brother Watch (@BigBrotherWatch) June 17, 2024

더구나 네트워크레일은 감시 시스템을 통해 얻은 정보를 광고주에게 제공할 가능성을 시사했다고 한다. 빅브라더워치 측은 네트워크레일은 아무것도 모르는 승객들에 대해 신뢰할 수 없는 감정 인식 기술을 배치할 권리가 없다며 공공 기관이 국민에게 알리지 않고 아마존 AI 시스템을 통한 대규모 실험을 전개한 건 우려할 만한 일이라며 네트워크레일 측 고지가 부족했던 점과 얼굴 인식 시스템을 채택한 점을 비난했다.

한편 얼굴 인식을 이용한 범죄 예방 시스템과 안전 확보 시스템에 대해서는 전 세계적으로 프라이버시에 관한 논의가 진행되고 있다. 관련 내용은 이곳에서 확인할 수 있다.