오라클의 공동 창업자이자 회장 겸 CTO인 래리 엘리슨이 회사 재무 회의에서 AI를 활용한 감시의 미래에 대한 비전을 언급하며 앞으로 AI가 법 집행 기관 대규모 감시 네트워크를 강화할 것으로 기대한다고 말했다고 보도됐다.
엘리슨 회장은 오라클 금융 애널리스트 회의에서 모든 경찰관이 항상 감독되고 문제가 있으면 AI가 그 문제를 적절한 사람에게 보고할 것이라며 항상 모든 걸 기록하고 보고하므로 시민은 최선의 행동을 하게 될 것이라고 말했다.
그는 또 고속도로에서의 차량 추적에서는 AI 제어 드론이 경찰 차량을 대체할 것이라며 드론에게 차를 쫓게 하기만 하면 되며 자율 드론 시대라면 매우 간단한 일이라고 말했다.
엘리슨이 기대하는 AI에 의한 예측과 감시는 강력한 하드웨어 개발에 의존한다. 엘리슨 회장은 테슬라 일론 머스크 CEO와 엔비디아 젠슨 황 CEO와의 저녁 식사에서 자신과 머스크 CEO는 황 CEO에게 GPU를 간청했다고 말했다.
보도에선 엘리슨 회장은 AI에 의한 감시로 범죄를 크게 줄일 수 있다고 믿고 있지만 지금까지의 시도가 반드시 그의 주장을 뒷받침하는 건 아니라고 말했다.
Oracle’s Larry Ellison says a surveillance system of police body cams, cameras on cars and autonomous drones, all monitored by AI, will constantly record and report on police and citizens, leading everyone to be on their best behavior pic.twitter.com/RAq5XGaNmZ
— Tsarathustra (@tsarnick) September 15, 2024
예를 들어 보도에 따르면 미국 경찰 단속 대상이 흑인이나 라틴계에 편중되어 있다는 지적이 있으며 AI에 경찰 데이터를 입력하는 건 이런 편향을 더 강화할 우려가 있다. 실제로 2019년 로스앤젤레스 시경이 범죄 예측 프로그램을 시험 도입했을 때 흑인과 라틴계에 대한 감시가 강화된 것으로 밝혀져 프로그램을 중단했다.
또 이미 AI로 감시하는 시스템이 현실화되고 있으며 감시 카메라를 이용한 감시 시스템은 런던 지하철이나 2024년 파리 올림픽에서 시험적으로 도입되고 있을 뿐 아니라 중국에서는 몇 년 전부터 감시 카메라로 주민을 감시하고 개인 데이터를 수집하는 시도를 하고 있다고 지적했다.
보도에선 엘리슨 회장은 보편적인 공공 감시를 긍정적으로 예측하려고 하지만 그의 발언은 프라이버시와 시민 자유, 그리고 AI 감시 세계에서의 악용 가능성에 대해 중대한 문제를 제기하고 있다고 비판적으로 평가했다. 관련 내용은 이곳에서 확인할 수 있다.