2023년 10월부터 계속되고 있는 이스라엘-하마스 전쟁에서 이스라엘 국방군 IDF가 AI 기반 시스템 라벤더(Lavender)를 도입해 표적을 식별하고 공격하고 있다는 게 밝혀졌다. 표적 수는 3만 7,000명에 이르지만 시스템에 의한 오인식별도 10% 정도 발생하고 있는 것으로 알려졌다.
조사에 따르면 IDF가 라벤더라는 AI 시스템을 도입해 표적 식별을 하고 있다는 것. 라벤더는 하마스와 이슬람 지하드 군사 부문에 소속된 모든 용의자를 식별하고 표적으로 삼도록 설계됐다. IDF는 전쟁 초기 라벤더를 크게 의지했으며 라벤더가 표적이라고 식별한 대상에 대해선 공격 20초 전에만 해당 특징과 일치하는지 예를 들어 보고된 20대 남성처럼 보이는지 등을 확인하고 공격 승인을 했다고 한다.
라벤더도 완전무결하지는 않아 인식률이 90% 정도로 10% 비율로 무장 단체와 무관한 사람을 표적으로 오인식별한다고 한다. 하지만 IDF는 라벤더가 왜 그 사람을 표적으로 식별했는지, 식별 근거 데이터가 무엇인지에는 전혀 관심을 보이지 않았다고 한다. 또 공격 시점은 개인 식별이 용이하다는 이유로 하마스 활동 중이 아닌 재택 중에 이뤄지는 경우도 있었다. 취재에 응한 정보 관계자는 IDF는 하마스 구성원이 활동에 종사하고 있을 때만 공격할 관심이 없었고 처음부터 재택 중을 노렸다고 말했다. 이런 효과적인 공격을 위한 추가 시스템(Where’s Daddy)이 있었던 것으로 드러났다.
정보 관계자는 더불어 IDF가 정밀유도탄보다 무유도탄을 선호해 사용했다고 증언했다. 정밀유도탄은 표적에 명중하기 직전까지 세밀하게 유도되지만 무유도탄은 대략적으로 표적을 향해 발사되기 때문에 주변 시설이나 인근 주민도 피해를 입는다.
IDF에는 가족 등 주변인이 피해를 입더라도 공격할 수 있는 휴먼 타깃이라는 설정이 있었는데 이전에는 지휘관이나 중대장 등 고위 간부급만 대상이었다. 하지만 2023년 10월 하마스 공격으로 이스라엘 시민 1,200명이 희생된 이후에는 조직 말단 공작원까지 모두 휴먼 타깃 설정이 되면서 어디서나 민간인 피해가 발생하는 공격이 자행됐다고 한다.
과거에는 라벤더가 보조적으로만 활용됐지만 휴먼 타깃 대상이 확대된 이후에는 라벤더가 생성한 표적 리스트 그대로 승인되는 흐름이 만들어졌다고 한다.
라벤더는 대인용 시스템이지만 유사한 시스템이 대시설용 더 고스펠(The Gospel)에도 도입됐을 가능성이 있다. 한편 2021년 출판된 책(The Human-Machine Team)에서 대량 표적을 빠르게 처리할 수 있는 특별한 기계가 개발 중이라는 언급이 있었다고 한다. 책 저자는 이스라엘 정보부대 지휘관으로 추정된다. 관련 내용은 이곳에서 확인할 수 있다.