미국 국방부는 기계학습으로 전장 데이터를 분석해 표적을 록온하거나 전술을 제안하는 군용 AI 프로젝트인 프로젝트 메이븐(Project Maven)을 진행 중이며 이미 실전에도 시험 투입하고 있다고 한다.
프로젝트 메이븐은 AI를 군사 활용한다는 국방부 계획으로 2017년 발족했다. 처음에는 구글이 기술 제공을 하고 있었지만 사내로부터 반발이 일어나면서 구글은 AI 기술을 무기 개발에 사용하지 않는다고 선언하고 2019년을 마지막으로 계약을 갱신하지 않기로 결정했다. 하지만 구글이 철수한 뒤에도 프로젝트 메이븐은 진행되고 있으며 현재 미국 데이터 분석 기업인 팔란티어테크놀로지스가 주요 시스템을 설계하고 있다고 한다. 또 AWS나 마이크로소프트 등 10개사도 공헌하고 있다고 한다.
프로젝트 메이븐에선 메이븐 스마트 시스템(Maven Smart System)이라는 AI 시스템은 지상과 공중에서 수집된 이미지와 영상 같은 방대한 멀티미디어 데이터를 분석한다. AI가 이미지 인식, 객체 검출, 움직임 추적 등을 수행하고 분석 결과로부터 패턴을 식별하고 중요 정보를 식별한다.
또 AI는 분석 정보를 군 지휘관과 작전부대에 빠르게 제공한다. 이렇게 하면 빠른 의사결정과 작전 행동이 가능하다. 또 AI는 운영 중인 데이터와 결과로부터 학습하고 알고리즘과 시스템을 개선하기 위해 피드백 루프를 수행해 시스템 성능과 정확성을 높인다.
프로젝트 메이븐이 시작한 초기에는 AI가 하는 건 이미지나 영상 해석 정도였지만 악천후나 어둠에서도 볼 수 있는 레이더 시스템이나 열을 검출하는 적외선 센서로부터의 데이터를 넣을 수 있게 된 것으로 엔진이나 무기 공장 등을 찾아낼 수 있게 됐다.
또 IP 주소나 소셜미디어 태그, 지리 위치 정보를 상호 참조하는 것으로 비시각적 정보도 분석할 수 있게 됐다고 한다. 미 육군 관계자에 따르면 프로젝트 메이븐의 AI에 의한 지원이 있다면 1시간당 최대 80개 표적을 포착할 수 있게 됐다고 한다.
2023년 미 국방부는 메이븐 스마트 시스템 개발 주요 책임을 지도와 이미지 분석을 전문으로 하는 국가지리공간정보국(NGA)에 맡겼다. NGA 승계 이후 메이븐 스마트 시스템은 식별 정밀도가 크게 높아졌고 프로젝트 메이븐은 개발 중인 프로젝트로부터 프로그램 오브 레코드(program of record)로 지정됐다고 한다. 프로그램 오브 레코드는 특정 계획과 프로젝트가 공식 인증되고 에산을 할당받는 걸 의미한다.
2022년 2월 러시아가 우크라이나에 침공했을 때 미 육군 담당기관과 메이븐 스마트 시스템이 독일 주둔지에 배치되어 우크라이나 지원에 사용됐다고 한다. 메이븐 스마트 시스템을 사용해 러시아군 장비 위치를 우크라이나군에게 제공하고 우크라이나군은 GPS 유도를 사용해 표적을 미사일로 파괴했다고 한다.
하지만 메이븐 스마트 시스템은 학습 데이터 질과 양에 따라 판단 정확도에 따라 달라진다. 중동 사막 상황 판단이라면 인간이라면 84% 확률로 올바른 판단을 내리고 있는 반면 메이븐 스마트 시스템은 60% 정도였다고 한다. 이는 AI가 트럭과 나무, 계곡을 혼동해 버리기 때문이라고 한다. 군 관계자는 메이븐 스마트 시스템 알고리즘을 사용하는 이점은 어디까지나 판단을 내릴 때까지의 속도 향상이락 밝히고 있어 전술적인 부분으로 판단을 내릴 수준까지는 도달하지 않은 것으로 보인다.
또 미국과 동맹국이 메이븐 스마트 시스템과 같은 AI에 의존하게 되면 적대국이 훈련 데이터와 에러 데이터를 혼합하거나 소프트웨어 업데이트를 해킹해 AI를 악화시킬 가능성도 있다. 그 중에서도 미군이 우려하고 있는 건 중국이다. 중국은 기계학습 기술을 선행하고 있으며 능력을 군사적 이용을 하는 게 아닐까 우려되고 있다. 미 정부가 2023년 10월 중국에 대한 AI용 반도체 부품 수출 제한을 강화한 것도 이런 우려가 배경에 있다는 지적이다.
2023년 국방부는 기술적 시스템과 알고리즘이 수행하는 의사 결정과 행동에 대한 인간이 감시, 평가, 필요에 따라 개입하도록 지지하는 명령을 내렸다. 이는 메이븐 스마트 시스템이 아니라 인간이 최종 결정권을 갖고 시스템 판단과 제안에 대한 책임을 갖고 있음을 강조한다.
군 관계자는 AI가 인간 의사 결정을 능가하지 않는다고 말한다. NGA 측 관계자는 미군 AI 시스템은 항상 인간이 감독하고 무력분쟁법을 준수한다며 적을 공격하거나 사살할지 여부를 기계에 판단하게 할 계획은 없다고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.