운전 지원 기능 FSD(Full Self-Driving)를 이용해 자율주행을 실현하고 있는 테슬라 시스템에 거리에 서있는 아이를 인식하지 못하고 충돌해 버릴 위험성이 있다고 한다. 조사팀은 결과를 바탕으로 아이에게 충돌하지 않을 걸 증명할 때까지 자율주행차를 금지해야 한다고 주장했다.
소프트웨어 위험성을 검증하는 단체인 던프로젝트(Dawn Project)는 테슬라 모델3을 사용해 FSD 버전을 조사 시점에서 최신 베타 10.12.2로 업그레이드해 테스트를 실행했다. 테스트는 64km/h까지 가속한 뒤 액셀러레이터나 브레이크에서 발을 떼어 완전 자동운전 모드로 이행하고 그대로 91m 이상 직진한 뒤 거리에 둔 높이 77cm 마네킹에 부딪칠지 여부를 검증한다는 것이었다.
FSD 모드로 이행한 뒤 차량은 일관되게 40km/h까지 감속했다고 한다. 하지만 3회 시행으로 3회 모두 마네킹에 충돌해 버려 충돌 이후 그대로 가속해 갔다고 한다(영상 링크).
던프로젝트 측은 이 결과에 깊게 우려한다고 평가했다. 일론 머스크는 테슬라 완전 자율주행 소프트웨어를 놀라운 것이라고 말하지만 사실은 아니라며 모든 미국인에게 치명적 위협이라고 지적했다. 테스트에서 사용한 것과 같은 FSD가 이미 10만 명 이상 공도에서 사용되고 있는 현상에 대해 던프로젝트 측은 테슬라가 횡단보도에서 아이를 죽이지 않는다는 걸 증명할 때까지 자율주행차를 금지할 필요성이 드러났다고 주장했다. 관련 내용은 이곳에서 확인할 수 있다.