영화 터미네이터 시리즈를 보면 AI인 스카이넷이 반란을 일으켜 핵무기를 사용하는 것으로 일어난 핵전쟁 묘사가 있다. 이런 미래를 피하기 위해 미국 초당파 의원 그룹이 AI에 의한 핵무기 사용 금지 법안에 대한 논의를 시작했다.
미 국방부는 2022년 핵태세 검토를 통해 대통령이 핵무기 사용 시작과 종료를 결정하는데 정보를 제공하고 수행하는데 중요한 모든 행동에 관한 중요한 그룹 구성원은 여전히 인간으로 한다는 방침을 내세우고 있다.
미 의회 일부 의원은 4월 26일 이 국방부 지침을 성문화하는 법안인 자율형 AI에 의한 핵발사 저지 법안(Block Nuclear Launch by Autonomous Artificial Intelligence Act)을 연방 의회에 제출했다.
성명에선 점차 디지털화되어 가는 시대에 핵무기를 지휘, 제어, 발사하는 힘을 로봇이 아니라 인간이 단독으로 갖도록 할 필요가 있다며 핵무기와 같은 가장 위험한 무기에 의한 생사 관련 무력행사 결정에는 항상 인간이 관여해야 한다고 밝혔다.
이미 AI에 의한 핵무기 사용은 SF 영화 시나리오에 그치지 않는 현실적 위협이 되고 있다. 스탠포드대학 인간중심AI연구소가 발표한 보고서에 따르면 조사 대상 AI 전문가 중 36%가 자동화 시스템이 핵 수준 대참사를 일으킬 수 있다는 우려를 했다고 한다. 또 정책 제언 단체인 ACA(Arms Control Association)가 지난 2월 발표한 보고서에서도 AI나 치사적 자율형 무기 시스템, 극초음속 미사일을 포함한 새로운 기술은 인류 존망과 관련된 위협을 가져오기 때문에 무기로 전환 속도를 늦추기 위한 대책이 필요하다고 강조하고 있다. 관련 내용은 이곳에서 확인할 수 있다.