테슬라 자율주행車, 유령 이미지에 속는다?

신경망이 신호 색상이나 장애물 등을 감지하면서 달리는 테슬라 자율운전 차량은 라이다 대신 각종 카메라를 이용한다. 하지만 노상이나 길가 나무에 인물이나 교통신호를 프로젝터로 조사하면 이에 속아버린다는 사실을 발견헀다고 한다.

이 연구를 실시한 곳은 이스라엘 네게브 사막에 위치한 벤구리온 대학 사이버 보안연구센터. 이곳에선 조사된 유령 이미지를 인간으로 오인한 차량이 급제동을 걸 가능성이 있다고 보고하고 있다.

이 연구는 ADAS의 우령(Phantom of the ADAS)이라고 명명했다. ADAS(Advanced driver-assistance systems)는 첨단 운전 지원 시스템을 말한다. 연구에선 탑재 카메라 모빌아이 630 프로(Mobileye 630 PRO)는 존재하지 않는 인물이나 차선을 오인했다. 드론에서 125밀리초만 조사한 이미지에도 속아 악의적 공격이라면 사고로 이어질 수 있다는 것.

연구팀은 이에 대해 버그나 취약한 코딩 오류는 아니지만 진짜와 가짜를 구별하도록 훈련되어 있지 않은 기계 결함이라고 주장한다. 또 동영상에도 나오지만 모빌아이 630 프로는 16cm 이상 도로표지판을 인식해버리는 특성도 갖고 있다. 만일이지만 차량에 엘론 머스크가 싫어하는(?) 라이다가 탑재되어 있다면 실체와의 거리를 측정해 진위를 판단할 수 있지 않을까 생각해볼 수 있다.

대도시에선 네온과 전광판, 거대한 모니터 등이 있고 지상을 향해 매장 로고가 조사되기도 한다. 이를 오인해 버릴 가능성도 있고 우연히 몇 가지 조건이 겹치면 차량이 홀로그램 같은 인물을 검출해버릴 수도 있다. 이전에 맥아피가 속도 제한 표지판을 검은 테이프로 잠시 만지작거려 테슬라 차량을 속여 과속을 하게 하는데 성공한 적이 있다. 이는 테슬라 차량 시스템 개선으로 이어졌지만 자율주행이 문제를 일으킬 가능성을 말해주는 것이기도 하다. 아직은 새로운 기술이기 때문에 주의가 필요하다. 관련 내용은 이곳에서 확인할 수 있다.