드론은 몇 년 동안 전쟁에 사용되어 왔지만 보통 인간에 의해 원격 조작됐다. 하지만 이젠 이미지 인식 소프트웨어와 자동 항법 소프트웨어를 결합해 자율 무인 항공기를 저렴하게 대량 생산할 수 있다. 무기로 사용되는 자율 무인 항공기와 AI를 탑재한 무기는 전장에 어떤 위기를 가져올까.
2020년 3월 리비아 정부는 터키 지원군 도움을 받아 자율 무인 항공기를 이용해 무장 군을 공격했다. 2021년 5월에는 이스라엘이 세계에서 처음으로 완전 자율 무인 항공기를 이용한 집단 비행을 실시하고 전략 정보 수집을 실시했다. 터키와 이스라엘 등은 공격 가능한 드론 외에도 정보 수집을 전문으로 하는 자폭 기능 드론도 배치하고 있다.
인권 활동가가 오랫동안 요구해온 킬러 로봇이라는 자율 살상 무기 전면 금지 제정은 2021년 시점 30개국 지지를 받고 있다. 하지만 세계를 군가적으로 선도하는 국가는 전면 금지는 불필요하다고 주장한다. 미국은 우려가 과장되어 있으며 인간은 자율 무기를 효과적으로 제어할 수 있다고 말한다. 러시아 정부 역시 진정한 AI 무기는 아직 존재하지 않기 때문에 금지할 수 없다고 말한다.
하지만 리비아 내전처럼 기술 진보에 의해 자신의 결정을 내리는 무기가 이미 사람을 죽이는 게 현실이다. 이런 드론은 원격 조작과 자율 기능을 모두 갖추고 있기 때문에 인간이 각각 표적을 폭격하기 위한 최종 결정을 내렸는지 여부를 외부에서 아는 건 불가능하다.
자율 무인 항공기는 전장에서 전력이 되고 있으며 이젠 자율 무인 항공기를 개발하기 위해 여러 정부에 수십 개 프로젝트가 존재한다. 미국과 중국, 러시아 같은 국가는 자율 무인 항공기를 제한하는 조약에 대한 토론에 참여하지만 개발을 계속하고 있다.
지난 10년간 대량 데이터 집합을 빠르게 처리할 수 있는 컴퓨팅 이용이 용이하게 되면서 연구원은 대량 정보를 처리하는 컴퓨터 프로그램 설계에 있어 큰 발전을 이룰 수 있었다. AI 발전으로 AI가 시를 쓰거나 언어를 정확하게 번역하고 신약 개발을 돕는 것도 가능하게 됐다.
하지만 의사 결정을 컴퓨터에 의존하는 것에 대한 위험성 논쟁은 치열해지고 있다. 구글과 아마존, 애플, 테슬라 같은 기업은 기술 개발에 막대한 비용을 쏟고 있으며 AI가 편견을 품지 않도록 하는 시도가 이뤄지고 있으며 AI 국제 학회(NeurIPS)는 국제회의에 제출하는 논문은 사회에 줄 수 있는 영향에 대한 설명을 요구한다고 발표하기도 했다.
일부 국가에선 얼굴 인식 같은 AI 기술이 자율 병기에 이미 전개되고 있다. 2010년 삼성 무기 부문은 이미지 인식을 이용해 인간을 발견하고 사격하는 감시포(Sentry gun)를 개발했다. 또 같은 포가 이스라엘과 가자 지구 국경에 배치됐다. 하지만 우리나라와 이스라엘 양국 정부는 시스템이 자동으로 동작하지만 제어하는 건 인간이라고 밝히고 있다.
한 전문가는 기술은 무기를 더 똑똑하게 하지만 인간이 이를 원격 조작하는 것도 쉽게 하고 있다며 미사일을 발사한 뒤 민간인에 명중할 가능성이 있다는 걸 발견하면 미사일을 중지시키는 것도 가능하다고 말한다.
하지만 국제평화단체 측 관계자는 그럼에도 전장에서 요구되는 속도는 필연적으로 더 많은 결정을 기계에 맡기는 일이 늘어날 것이라며 인간이 더 이상 통제할 수 없는 속도로 전쟁이 진행되는 게 현실이 되어가고 있다고 지적하고 있다. 관련 내용은 이곳에서 확인할 수 있다.