원형으로 배치하는 감방 중앙에 감시탑을 둬서 감시탑으로 포로 전원을 감시할 수 있는 시스템인 팬옵티콘(panopticon)은 전체 전망 감시 시스템이라고 할 수 있다. 중국은 정부가 모든 곳에서 모든 각도로 전 시민을 감시하는 시스템이 구현되고 있다. 디지털 팹옵티콘이라고도 말할 수 있는 AI를 구사한 중국 감시 체제는 어떤 모습일까.
중국과학원에는 중국 최고 연구자가 AI를 연구하는 자동화 연구소가 있다. 시진핑 국가 주석은 이 연구소에 큰 관심을 보이고 있으며 2030년까지 중국이 AI 패권을 잡기 위한 구상을 내놓을 만큼 중국에선 AI 기술 발전을 중시하고 있다.
중국이 AI 발전에 힘을 쏟는 이유 중 하나는 중국 정부가 몇 년간 감시 시스템 도입과 발전에 주력해온 걸 들 수 있다. 중국은 수십억 대에 이르는 감시 카메라를 설치했고 카메라로 수집한 영상에서 보안 위협을 발견하기 위한 독자 알고리즘으로 분석한다. 조만간 공공장소에 들어서면 모든 사람은 SNS에서 정보와 신체 특징 등 대량 개인 데이터를 통해 AI에 의해 곧바로 식별될 것이다. 알고리즘은 행동 기록과 친구, 지인 관계 등에서 얻은 출처를 조합해 개인의 정치적 저항을 사전에 예측할 수 있게 될 가능성이 있다. 중국 정부는 10억명 이상에 대한 전례 없는 정치적 제압을 달성할지 모른다는 주장이다.
코로나19 발생에 따라 중국에선 스마트폰 앱을 통해 감염자를 컬러 코드로 식별하고 사용자 개인 정보와 위치 정보를 경찰이 알 수 있는 앱을 배포했다는 보도가 나온 바 있다. 하지만 그 이전에 위구르족이 살던 중국 북서부 신장 위구르 자치구에선 개인을 컬러 코드 식별 시스템을 얹은 앱이 이미 운용되고 있었다. 위구르족을 실험 대상으로 삼아 중국 전역에 AI 모니터링을 확대하려는 목적이 있다는 지적이다.
위구르족은 2009년 일어난 중국인에 의한 위구르족 살상을 계기로 대규모 시위를 벌여 2009년 7월 우루무치 소요 사태로 발전한다. 당국은 모스크를 파괴하는 등 위구르족을 탄압하고 100만명 이상 위구르인을 강제 수용소에 연행했다.
이를 계기로 위구르족에 대한 감시가 강화됐다. 위구르족이 갖고 있는 스마트폰 대부분은 악성코드에 의해 감시되고 있다고 보고되고 있다. 경찰에 의해 강제 설치된 악성코드에 의해 위구르족 스마트폰은 항상 채팅과 로그 스캔은 물론 사진 파일 검열이 이뤄지고 있다. 또 위구르족은 암호화된 채팅 앱을 내려 받을 수 없고 온라인숍에서 이슬람 상품을 구입하거나 이슬람교 관련 디지털 책을 저장하는 건 경찰 당국에 위험한 행위로 간주된다.
스마트폰에 악성코드를 심는 것 뿐 아니라 신장 위구르 자치구에 검문소를 설치하고 위구르족 스마트폰 통화와 문자 메시지도 대상으로 삼는다. 경찰은 위구르족의 정상적 행동 패턴에서 일탈 행위를 한 경우 주의하도록 지시한다. 의심스러운 움직임을 잡기 위해 감시 카메라를 통해 이전보다 이웃과 얘기하는 시간이 줄거나 전기 사용량이 이상하다든지 삶의 세세한 면까지 위구르족은 경찰에 의해 감시되고 있다.
신장 위구르 자치구에도 수많은 감시 카메라가 있어 위구르족은 지역간 이동하는 것만으로도 수십 대에 이르는 감시 카메라를 갖춘 검문소를 통과해야 한다. 감시 카메라 영상에서 경찰이 사전에 촬영한 위구르족 사진과 일치하는 알고리즘을 통해 검열을 한다. 경찰은 사진 뿐 아니라 신장, 혈액 샘플 채취, 소리도 기록한다. 그 뿐 아니라 경찰은 위구르인 시신에서 유전자 데이터를 채취해 정밀 조사를 실시하고 더 많은 데이터를 확보할 구실로 코로나19 감염을 이용할 가능성이 높다는 지적도 나온다.
또 위구르족 여성에 대해선 엄격한 임신 검사가 이뤄지고 있으며 그 중에는 낙태를 강요하는 사람도 있다. 허용되지 않은 출산을 한 어머니는 경찰에 의해 구속되어 신장 위구르 자치구에선 3년간 출산율이 60% 이상 감소한 지역이 존재하기도 한다.
이 같은 모니터링 시스템을 신장 위구르 자치구에서 실험하고 모든 걸 감시하는 디지털 팬옵티콘으로 활용하고 중국 전역으로 범위를 넓힐 수 있다는 것이다. 신장 감시 시스템을 구축한 국유 기업인 CETC는 이미 절강과 광동 일부에 감시 시스템 시험 프로젝트를 실시하고 있다. 회사 측에 따르면 이 프로젝트는 전국 전개를 위한 것으로 중국 내 거대한 디지털 팬옵티콘의 일부에 불과하다고 할 수 있다.
중국은 거대한 인구와 국내에만 10억대 이상 스마트폰 등을 보유하고 있으며 여기에는 고성능 센서가 탑재되어 있기 때문에 중국은 디지털 팬옵티콘의 실험에 이상적 환경일 수 있다. 중국 검색엔진의 쿼리, 방문한 웹사이트나 모바일 결제 등이 타임스탬프와 위치 정보를 매개로 센서에 의해 기록된다. 전화 회사는 스마트폰 계약을 할 때 구매자 얼굴을 카메라로 스캔하기 때문에 스마트폰 데이터를 특정인 얼굴에 연동하는 것도 가능하다.
미국 경찰 역시 아마존 홈 보안 카메라인 링(Ring) 영상 등을 이용해 감시 시스템 확대를 추진하고 있다. 하지만 중국 정부는 감시 카메라 영상을 수집할 뿐 아니라 드론이나 자율주행 차량 등에서 얻은 영상이나 정보를 수집해 도시를 관리하는 AI인 시티 브레인(City Brain)에서 대량 데이터를 조합해 보완, 도시 전체 영상을 초 단위로 업데이트하는 기술을 실현하고 있다.
앞으로 수십 년 안에 시티브레인과 후속 시스템은 암시적 생각조차 읽게 될지도 모른다. 실제로 드론은 이미 뇌파를 감지해 제어할 수 있다. 미래에는 충분한 힘을 가진 권위주의 국가는 시민의 활동에 대한 모든 정보를 정부 데이터베이스에 보내도록 소프트웨어 개발사에 명령할 가능성도 있다는 지적이다. 또 중국 감시 시스템은 아직 개발 중이며 개인 데이터 형식이 시스템 제공사에 따라 통합되지 않는 등 문제도 있다. 하지만 모든 데이터 통합은 어려운 문제가 아니다.
중국 정치 구조는 AI 기술의 최악 사용을 제한하는 게 아니라 장려한다. 인권을 헌법으로 보장한 민주주의 국가인 미국에선 감시 국가 탄생을 저지하려는 투쟁을 하며 적어도 미국에선 사람들이 감시 사회에 저항할 수 있는 정치 구조가 있다. 하지만 중국은 모두 정부 요구대로 정치 구조가 이뤄져 있다.
또 철저한 감시 사회를 추구하는 정부를 저지하는 게 어렵고 시민 불복종을 나타내는 행동이 수백만 번 이뤄져도 이 어려움을 시민들이 견딜 수 있을지 예측하기 어렵다. 코로나19 감염에 의해 감시를 중시하는 사람이 늘어 개인 정보가 경시될 가능성도 있다는 말로 감시 사회 발전을 우려하기도 한다.
하지만 중국에서도 일부는 감시 사회에 대해 분노를 표출하고 있으며 젊은 층 중에선 더 그렇다. 물론 홍콩인은 확실히 감시 사회에 위험을 느끼지만 홍콩 국가안전유지법에 의해 지배되고 있기 때문에 불리하다. 최근에는 컴퓨터 과학자 등이 중국에서 AI 악용에 대해 경고하기도 했다. AI가 자율성과 존엄성, 개인 정보 보호 등 많은 인간 가치관을 저버릴 가능성에 대해 기록한 베이징 AI 원칙(Beijing AI Principles)을 2019년 발표하기도 했다. 관련 내용은 이곳에서 확인할 수 있다.