엑스가 미국 캘리포니아주에서 제정된 딥페이크 기만으로부터 민주주의를 지키는 법안 2024 : AB-2655(Defending Democracy from Deepfake Deception Act of 2024) 금지를 요구하며 법원에 제소했다.
AB-2655는 지난 2월 14일 제출된 법안으로 대규모 온라인 플랫폼에 대해 선거 기간 중 선거 관련 허위정보를 차단할 것과 허위정보 신고 절차를 수립할 걸 의무화하는 것이다. 또 플랫폼이 AB-2655를 위반할 경우 공직자・선거관리자・법무장관・지방검사장은 법원에 금지명령을 청구할 수 있으며 법원은 해당 청구를 우선적으로 처리해야 한다.
AB-2655 논의가 진행되는 중 지난 7월에는 일론 머스크가 카말라 해리스 부통령의 딥페이크 영상을 엑스에서 유포했다. 이에 캘리포니아주 개빈 뉴섬 주지사는 이런 행위는 불법이어야 한다며 이를 확인하기 위해 수주 내에 법안에 서명할 것이라고 포스팅했으며 9월 17일 AB-2655에 서명했다.
새롭게 엑스가 11월 14일 AB-2655 금지를 요구하며 법원에 제소했다는 사실이 밝혀졌다. 엑스는 소장에서 AB-2655는 정치적 발언의 광범위한 검열로 이어질 수 있다며 정부 관계자나 공직 후보자에 대한 비판적 발언은 수정헌법 제1조에 의해 강력하게 보호되어 왔다고 언급하며 AB-2655가 수정헌법 제1조에 위배된다고 주장하고 있다.
한편 AB-2655 관련 법안인 AB-2839는 10월 2일 존 멘데스 판사에 의해 위헌 혐의로 금지됐다. AB-2839는 법원에 대해 사용자나 후보자로부터 허위정보 금지를 청구받은 경우 민사소송 절차를 우선할 걸 의무화하는 것이지만 판사는 AB-2839는 민주적 논의에 중요한 자유롭고 구속 없는 의견 교환을 위헌적으로 제한하는 둔기로 작용한다고 주장했다. 판사 금지명령을 받고 머스크는 언론 자유를 침해하는 캘리포니아주 위헌 법이 법원에 의해 저지됐다고 포스팅했다. 관련 내용은 이곳에서 확인할 수 있다.