챗봇AI 이용해 전장에 지시 내리는 시대 열린다

페이팔 창업자인 피터 틸이 설립한 빅데이터 분석 기업인 팔란티어(Palantir)가 GPT-4와 같은 대규모 언어 모델을 사설 네트워크상에서 실행하기 위한 소프트웨어인 팔란티어 AIP(Palantir Artificial Intelligence Platform)를 발표했다.

팔란티어는 소개 영상에서 군이 AI를 이용하는 방법에 대해 설명하고 있다. 시나리오는 동유럽 내 활동을 감시하는 군사 운영자가 군 근처에 적이 집결했다는 경고를 AIP로 받는 것에서 시작한다. 경고를 받은 운영자는 챗봇에게 자세한 내용을 보여달라고 요청하고 자세한 정보를 얻은 뒤 적 유닛이 뭔지 추측하도록 AI에 요청한다.

적 유닛을 파악한 운영자는 AI를 활용해 자군 유닛을 효율적으로 편성하고 다음으로 적을 노리기 위한 행동 지침을 AI에 생성시켜 이 지침을 자동으로 군에 송신한다. 드론을 이용해 사진을 찍거나 자군 무기 소유 상황을 전원에게 공유하는 등 정보 전달 행위는 모두 AI로 대응 가능하다고 한다. 인간은 챗봇에게 뭘 해야할지 묻고 이 행동을 승인하는 것 이상을 할 필요가 없어진다고 한다.

제너레이티브 AI를 활용한 전쟁이 현실감을 띠는 가운데 보도에 따르면 제너레이티브 AI가 항상 올바른 답을 내는 게 아니라는 점을 우려하고 있다. 팔란티어는 군 전용 AI나 대규모 언어 모델을 판매하는 건 아니며 기존 시스템을 일괄 관리할 수 있도록 하는 것만이며 실제로 인간 지시를 받아 결과를 출력하는 건 FLAN-T5 XL이나 GPT-NeoX-20B 등 기존 모델이다 하지만 이런 인공지능은 사물을 끌어올리거나 멍청한 대답을 할 수 있다.

팔란티어는 이런 문제를 개선하기 위해 AI 기밀 데이터와 실시간 데이터를 모두 분석할 수 있다고 주장한다. 팔란티어에 따르면 AIP를 이용하는 운영자가 행동을 하면 AIP가 기록을 만들고 AIP가 사용하는 대규모 언어 모델이나 AI가 뭘 하고 있는지 파악할 수 있게 된다고 한다. 팔란티어는 자사 플랫폼은 합법적이고 윤리적인 방식으로 AI를 군에 통합한다고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.