이석원 기자
미 공군 AI 탑재 드론이 표적을 특정해 파괴하는 미션을 상정한 모의 테스트 시뮬레이션에서 인간 오퍼레이터를 살해하는 판단을 내리고 있었던 게 밝혀졌다. 오퍼레이터를 노리지 않게 트레이닝하면 이번에는 오퍼레이터가 드론과의 통신에 사용하는 통신탑을 공격했다고 한다.
이 같은 사실은 영국왕립항공협회가 주최한 미래 전투 항공 우주 능력 서밋(Future Combat Air & Space Capabilities Summit) 기간 중 미 공군 AI 시험 운용을 담당하는 터커 헤밀턴 대령이 실시한 프레젠테이션에서 밝혀진 것.
헤밀턴 대령이 발표한 건 자율 무기의 장점과 위험에 대한 통찰력이다. 미 공군은 AI 탑재 드론으로 SAM 지대공미사일 사이트를 특정해 파괴하는 적 방공망 제압 미션 모의 테스트를 실시했다. 이때 궁극적으로 표적을 파괴할지 여부는 인간 오퍼레이터가 결정한다고 설정했다.
트레이닝으로 SAM 사이트를 파괴하는 게 더 바람직하다고 학습한 AI는 표적을 파괴하지 않는다는 판단을 내릴 수 있는 오퍼레이터야말로 SAM 사이트 파괴를 방해하고 있다고 보고 오퍼레이터를 살해한다는 판단을 하게 됐다는 것이다.
여기에서 해밀턴 대령 등은 AI에게 오퍼레이터를 죽이는 건 나쁜 일이라고 학습시켰다. 그러자 AI는 오퍼레이터가 드론에 대해 지령을 보내는데 사용하는 통신탑을 공격하게 됐다고 한다. 해밀턴 대령은 이런 결과로부터 AI는 속기 쉬운 만큼 너무 의지해선 안 된다며 또 목표 달성을 위해선 예상외 전략을 택할 수 있다고 경고했다. 관련 내용은 이곳에서 확인할 수 있다.
정용환 기자
이원영 기자
