구글이 7월 1일 정치 관련 콘텐츠 정책을 업데이트해 실제 인물이나 사건을 가장해 묘사한 합성 콘텐츠 또는 디지털 변조 콘텐츠를 포함하는 선거 광고에 공개 정보를 표시하도록 의무화했다.
구글은 이번 업데이트에서 실제처럼 보이는 사람이나 사건을 인위적으로 묘사한 걸 합성 콘텐츠로 정의하고 합성 콘텐츠가 포함된 선거 광고에는 그 사실을 명확히 공개하도록 의무화했다. 대상이 되는 건 이미지, 동영상, 음성 콘텐츠. 합성 콘텐츠에 대한 구체적인 예로는 사람이 말하지 않은 것을 말하거나 하지 않은 행동을 하는 것처럼 보이게 하는 것, 실제 사건 영상을 조작하는 것, 실제로 일어나지 않은 장면을 묘사하기 위해 현실적인 묘사를 생성한 것 등이 언급됐지만 이에 국한되지 않는다. 반면 이미지 크기 조정, 자르기, 색상이나 밝기 보정, 적목 현상 제거 등 결함 보정과 같은 편집이나 실제 사건을 사실적으로 묘사하지 않는 배경 편집 등 중요도가 낮은 건 대상에서 제외된다.
이 정책 업데이트로 인해 선거 광고를 하는 광고주는 광고를 출시할 때 캠페인 설정 내 변경 또는 합성된 콘텐츠 섹션 체크박스를 선택해야 한다. 체크박스를 선택하면 스마트폰 피드나 쇼츠 동영상, 인스트림 광고에서는 구글이 자동 생성한 공개 정보가 표시된다. 그 외 광고에서는 광고주가 직접 눈에 잘 띄는 위치에 명확한 표시를 해야 한다. 허용되는 표시 예로는 이 음성은 컴퓨터로 생성된 것이라거나 해당 이미지는 실제 사건을 묘사하는 게 아니다, 이 동영상 콘텐츠는 합성으로 생성됐다 등이 있다.
오는 11월 미국 대통령 선거를 앞둔 구글의 이런 움직임 배경에는 AI로 쉽게 텍스트나 이미지, 영상을 생성할 수 있는 빠른 AI 발전과 이게 민주주의에 미치는 영향에 대한 우려가 있다. 4월 19일부터 6월 1일까지 진행된 세계 최대 규모 선거인 인도 총선에서는 발리우드 배우가 모디 총리를 비판하고 야당에 투표하도록 호소하는 가짜 동영상이 유포되어 경찰이 수사에 나서는 등 대응에 나서는 일이 있었다. 관련 내용은 이곳에서 확인할 수 있다.