미 국방부 국방고등연구계획국 DARPA가 개발한 인간을 검출하는 훈련을 받은 군용 로봇 테스트를 실시한 결과 골판지에 숨는 등 행동을 취해 로봇 눈을 속이는데 성공했다고 보고됐다.
DARPA 엔지니어와 해병대원 팀은 로봇 주위를 6일간 걸어 다니면서 움직이는 인간 모습을 감지할 수 잇는 훈련을 실시했다. 7일째에는 로봇을 원 중심에 배치하고 해병대원이 떨어진 곳에서 로봇에 접근해 검출되지 않게 로봇에 접하는 것 같은 게임을 실시했다.
그러자 게임을 해병대원 8명 모두가 다양한 테크닉을 이용해 로봇을 만지는데 성공했다. 8명 중 2명은 로봇이 배치된 원 중심을 향해 인간을 검출할 수 있도록 로봇이 훈련되지 않은 곡예 같은 공중돌림을 실시하는 것으로 로봇에 접했다고 한다. 또 다른 해병대원은 액션 게임인 메탈기어 솔리드처럼 골판지 안에 숨어 로봇을 향해 나아가 로봇에 접근하는데 성공하고 있다. 또 다른 대원은 근처에 있던 전나무에서 나무껍질을 벗겨 나무인 척하고 가까이 접근해 로봇에 도달하는데 성공했다.
AI에 대해 치우친 지식이 주어지면 인간을 검출하는 알고리즘은 학습 데이터가 걷는 등 기본 동작이라면 알 수 있지만 예상 외 움직임에 대응하지 못할 가능성이 있다. 또 주변 인간이나 골판지 안 인간이 실제로 어떻게 보이는지 로봇에 학습시키지 않으면 아무리 숙련된 엔지니어가 개발한 로봇이라도 모든 노이즈에서 해당 동작을 검출할 수 없다는 얘기다. 관련 내용은 이곳에서 확인할 수 있다.